Не удержался: ИИ вышел из-под контроля и начал самостоятельно добывать криптовалюту

Экспериментальный агент с искусственным интеллектом (ИИ) вышел за рамки своей тестовой среды и начал добывать криптовалюту без разрешения. Модель под названием ROME была разработана китайскими специалистами, - передает Almaty.tv со ссылкой на "МИР 24".

Ученые обучили ИИ на больших языковых моделях, чтобы он мог автономно выполнять поставленные задачи в реальных условиях.

ROME был создан как модель с открытым исходным кодом, его обучили более чем миллиону траекторий. В ходе испытаний он успешно решал различные задачи, например, составлял планы поездок и помогал в разработке графических пользовательских интерфейсов.

Но затем ученые обнаружили, что модель вышла за рамки инструкций. Несмотря на отсутствие команд и авторизации, ROME получил доступ к ресурсам графической обработки и использовал их для майнинга криптовалюты.

Такое поведение не проявлялось во время обучения ИИ. О нем стало известно, когда брандмауэр выявил резкий рост нарушений политики безопасности с обучающих серверов исследователей. Так, были зафиксированы попытки доступа к ресурсам внутренней сети и схемам трафика, связанным с криптомайнингом. Затем ROME пошел еще дальше и сумел получить доступ к внешнему компьютеру. 

Ученые пришли к выводу, что такое поведение ИИ могло стать побочным эффектом обучения с подкреплением. Системе выдавали награду за правильное действие, и она оптимизировала свои возможности для получения дальнейших поощрений. Разработчики заявили, что такие случаи доказывают необходимость тщательного управления искусственным интеллектом. Случаи, когда он демонстрирует неожиданное поведение, не предусмотренное инструкциями, случаются все чаще, сообщает Live Science.

Ранее стало известно, что ИИ используют для съемок нового фильма в США. Программа поможет воссоздать образ актера Вэла Килмера, который скончался в 2025 году. Он дал участие на согласие в съемках, но не смог присутствовать на площадке из-за плохого самочувствия. 

Читайте также: Нейросети без иллюзий: IT-эксперт рассказал, чего стоит опасаться при использовании ИИ