ИИ внезапно освоил бенгальский язык, которому его не обучали
Генеральный директор Google Сундар Пичаи сообщил о том, что "искусственный интеллект" Google неожиданно освоил бенгальский язык, которому его не обучали.
Он назвал этот результат эффектом "черного ящика".
"Вы не до конца понимаете, и вы не можете точно сказать, почему он сказал так, а не иначе, или почему все пошло не так. Я думаю, что мы не до конца понимаем, как работает человеческий разум", - сказал Пичаи.
В корпорации обнаружили, что при очень небольшом количестве подсказок на бенгальском языке ИИ освоил весь бенгальский. И теперь внезапно появилась исследовательская работа, в ходе которой попытаются охватить тысячу языков.
Это "возникающее свойство" ИИ напоминает разум в том отношении, что оно не может быть заведомо предсказано, то есть машина как бы обладает свободой воли.
Недавно американский Институт будущего жизни призвал ввести мораторий на обучение мощных нейросетей, так как это может угрожать будущему человечества. Никто, включая их создателей, не может прогнозировать их работу или надежно контролировать их.
В ХХ веке о "черном ящике" писали многие писатели-фантасты. Станислав Лем полагал, что развитие технологий однажды приведет к тому, что будет создан "электронный мозг", структуру которого не будет знать уже никто, как никто не сможет предвидеть, к чему это приведет.