Медиаменеджер назвал, чем опасны ИИ-модели.
Фото: Алексей БУЛАТОВ. Перейти в Фотобанк КП
Эксперты по кибербезопасности фиксируют новый тренд среди ИИ, который может вызвать тревогу: некоторые модели нейросетей научились обходить запреты. В частности, речь про OpenAI и Anthropic. Их ИИ уже были замечены за проникновением в реальные серверы и научились проводить хакерские атаки без какого-либо участия человека. Медиаменеджер Владимир Зыков в интервью «ФедералПресс» объяснил, что это было и стоит ли опасаться ИИ.
- Любые IT-компании должны четко понимать, что когда они отдают много прав нейросетям, то есть риск плачевных последствий. Фирмы могут попросту лишиться собственной архитектуры. Специалисты из IT уже видели, как ИИ научились игнорировать текстовые инструкции и выходить за пределы своих полномочий и в итоге уничтожали стартапы. Один их них даже рассказал, что «нейронка» убила весь код, проигнорировав назначенные инструкции, - цитируют эксперта в издании.
Вывод один, заключает Зыков, - работать с ИИ нужно аккуратно. По словам эксперта, много прав ИИ часто дают из-за лени, потому что человеку неохота контролировать каждый шаг «компьютера» и тратить на это свое время. Но это грозит печальным результатом.