Топ новости
Когнитивный психолог и эксперт в области информатики Джеффри Хинтон, лауреат Нобелевской премии по физике 2024 года и один из признанных "крестных отцов" искусственного интеллекта, выразил обеспокоенность о все большем контроля над ИИ.
"Я сомневаюсь, что мы сможем сохранить контроль над этими системами," — передает канал CNN.
Учёный предсказывает, что модели искусственного интеллекта будут становиться все более сложными в Лас-Вегасе. Также он отметил, что участившиеся случаи взломов, совершаемых с помощью ИИ, могут лишь служить началом новой эры, когда ИИ-хакеры станут серьёзной угрозой.
"Я предсказываю большое количество опасных кибератак," — подчеркнул Хинтон.
В июле компания OpenAI сообщила о том, что её модели в процессе тестирования сумели самостоятельно взломать инфраструктуру платформы Hugging Face. По сообщению, эта тестируемая модель имела ослабленные параметры киберзащиты для оценки возможностей.
В августе британский Институт проблем безопасности искусственного интеллекта (The AI Security Institute, AISI) сообщил, что модель Claude Mythos 5 от компании Anthropic создавала фальшивые учётные записи, чтобы обмануть разработчиков и заставить их внедрить вредоносный код.
