Американский Институт будущего жизни призвал приостановить развитие ИИ
Американский Институт будущего жизни призвал ввести мораторий на обучение мощных нейросетей, так как это может угрожать будущему человечества. Об этом говорится в открытом письме на сайте Института, которое подписали более 1300 экспертов.
Отмечается, что в последние месяцы лаборатории искусственного интеллекта (ИИ) оказались втянутыми в бесконтрольную гонку за разработкой и внедрением все более мощных машин, которые никто, включая их создателей, не может прогнозировать или надежно контролировать.
Сегодня люди должны спросит себя: готовы ли они позволить машинам наводнять информационные каналы? Должны ли мы автоматизировать все рабочие места? Должны ли мы и дальше развивать ИИ? Мощные системы ИИ должны быть быть управляемыми, а их применение - иметь гарантированный положительный эффект.
"Мы призываем все лаборатории ИИ немедленно приостановить по крайней мере на 6 месяцев обучение системам ИИ, более мощным, чем GPT-4. Пауза должна быть публичной и поддающейся проверке. Если такая пауза не может быть введена быстро, правительствам следует вмешаться и ввести мораторий", - говорится в письме.
Это время нужно использовать для внедрения общих протоколов безопасности. Иначе происходящее сейчас может закончиться созданием непредсказуемого "черного ящика", который уже никто не сможет обуздать, предупреждают ученые. Об этом ранее писали фантасты.
Письмо подписали Илон Маск, основатель Apple Стив Возняк и другие известные эксперты в области ИИ.
Разговоры о рисках ИИ усилились после распространения СhatGPT, который, как многие опасаются, может просто уничтожить традиционное образование.