Искусственный интеллект (ИИ) представляет как возможности, так и угрозу будущему России. Эти технологии могут не только повышать производительность или побеждать на поле боя, но и вести к отупению людей. И все это уже происходит. Что с этим делать, говорилось на круглом столе, посвященном угрозам ИИ для образования и социальной сферы.
В том, что технологии ИИ имеют огромное значение для промышленности или военного дела, ни у кого сомнений нет. Наиболее чувствительной и опасной сферой его внедрения является социальная, прежде всего образование. Если рассматривать образование не в узком смысле, а в широком — как формирование образа человека, то ИИ в значительной степени этот образ искажает, упрощает (и уплощает), снижает планку требований. Все это будет иметь серьезные последствия.
Глава СПЧ Валерий Фадеев не согласен с теми "прогрессивными" деятелями, которые утверждают, что знания сегодня уже не очень важны, главное — найти нужную информацию. Почти 90% студентов, по опросам, используют нейросети. Но какую информацию получают дети, подростки, молодежь от ИИ? А вот такую: Россия стоит на пороге информационного, идеологического бедствия, считает он. Этот вывод прямо следует из "бесед" с нейросетями.
"Тексты, которые выдают нейросети, — это абсолютно западный нарратив. Тексты, которые выдают чаты, содержат мировоззренческие установки очевидного идеологического содержания. Это идеологизированные западные тексты", — подчеркнул Фадеев.
Он отмечает, что фактически создана невиданная по мощности машина пропаганды. Недавно США закрыли "Голос Америки" (СМИ-иноагент) и другие программы, и у нас многие радовались. Но рано. Зачем им это все, если в их руках колоссальное по мощности идеологическое оружие? Критическое мышление молодежи сейчас очень слабое, а уровень доверия к интернету, напротив, очень высок. Более 70% считают, что только в интернете можно найти объективную информацию. И они обращаются к нейросетям. Результат — идеологическая обработка западными концепциями. Потому что нейросети основаны на западных электронных библиотеках и текстах. Такое положение дел противоречит 29 статье Конституции РФ, которая запрещает цензуру. А пользование нейросетями означает использование именно цензурированной информации. Вся она основана на западной точке зрения. В этих условиях свобода получения информации невозможна.
"Мы как нашу Конституцию будем защищать? Фактически это новый способ манипулирования людьми", — утверждает глава СПЧ.
Член СПЧ, специалист по ИИ, президент компании "Крибрум" Игорь Ашманов подтверждает, что нейросети — это инструмент западной ультралиберальной идеологической машины. Причем она работает не сама по себе, а корректируется в ежедневном режиме асессорами — людьми, которые оценивают ответы по разным вопросам и в ручном режиме "вшивают" их в нейросети. Например, у OpenAI минимум 50 тыс. асессоров. Что касается образования, то сейчас дети уже начинают использовать нейросети для отправки выполненных заданий учителям. Тем более, что задания эти в электронной форме. Задания не глядя копируются в нейросеть и получается ответ, который отправляется учителю. Так дети ничего не учат и никогда ничего не выучат, потому что у них есть работающая процедура соскакивания с "домашки" через "выносной мозг". А в итоге подчас выходит откровенный бред.
"Я сам видел, как "Алису" "Яндекса" спрашивают, почему зимой холодно, и она говорит: потому что Земля зимой дальше от Солнца. Это тупой и неверный ответ! А ребенок считает, что это правильно. Причем на один и тот же вопрос они каждый раз дают разные ответы. ИИ принципиально создает фрагментацию образования, а нам нужно иметь единое культурное пространство. Мы должны друг друга понимать, иначе страна развалится или ее заберут другие люди. В стране происходит внедрение неизвестно чего. Концепция регулирования ИИ до 2030 года написана Альянсом ИИ, то есть исключительно в интересах цифрового бизнеса. А цифровой бизнес у нас абсолютно бессовестный сейчас. Есть кодекс этики ИИ, который также написан Альянсом, он был абсолютно хамский и никакой этики в себя не включал, так что нам пришлось вмешиваться, и, мне кажется, мы там процентов 30 переписали, вписав туда нормальные нормы вроде запрета принятия решений о человеке. Никакое саморегулирование цифрового бизнеса ничего с этим не сделает. Потому что цифровой бизнес и наши чиновники — это те, кто накапливают первичный цифровой капитал — информацию о людях", — рассказал Ашманов.
Он уверен, что ИИ должен проходить сертификацию в специальном регулирующем органе, но не в Минцифры, которое является лоббистом интересов бизнеса. Также нужно проверять уровень локализации ИИ, а источники данных, которыми он пользуется, должны быть открытыми. Сертифицированный ИИ должен давать правильные ответы на многие вопросы, например, чей Крым или кто победил во Второй мировой войне. И не должно быть бреда о том, что зимой Земля дальше от Солнца.
Председатель правления ассоциации разработчиков программных продуктов "Отечественный софт" Наталья Касперская отмечает огромные проблемы детей с психикой. Происходит социальная дезактивация, когда дети перестают воспринимать других детей и взрослых как субъектов общения. К чему это приведет в долгосрочной перспективе, никто не знает. Но вряд ли к чему-то хорошему, что видно уже по состоянию здоровья подростков.
Например, 26% детей до 16 лет страдают сейчас сколиозом, и этот процент вырос в разы по сравнению с советским временем. В значительной степени это вызвано тем, что дети, вместо того чтобы бегать, сидят скрючившись. По зрению ситуация аховая. Россия в тройке стран с самым худшим зрением среди школьников (хуже только в Японии и Южной Корее). Об этом мало кто говорит, потому что для чиновников от образования количество компьютеров и прочих цифровых устройств в школах — это очень удобный показатель, который обеспечивает им положительную динамику на годы вперед. А о том, как это влияет на образование, особо не задумываются.
Так, в готовящуюся Стратегию развития системы образования до 20240 года вписали замену учителей на ИИ, и это могут принять уже осенью, говорит Ашманов. У властей нет 300 млрд рублей в год на то, чтобы поднять зарплаты учителям, но на цифровизацию они потратят 3 трлн. Хотя для образования цифровизация не нужна, она только вредит, считает эксперт. Цифровизаторов нельзя пускать в социальную сферу, у них интересы не государственные. Разговоры же, что Россия без внедрения ИИ отстанет от мира, очень лукавы и основаны на ложной посылке. Сейчас в мире только две сверхдержавы — США и Китай, и они идут по пути, который для России неприемлем: Китай — в сторону "государственного цифрового концлагеря с массовой слежкой", а США — тоже в сторону "цифрового концлагеря", только частного, которым управляют корпорации.
"Нам не нужно бежать туда, где окажется Китай через несколько лет или США. Нам некуда отстать. У нас нет общего будущего с США и Китаем. И у человечества нет единого цифрового будущего. То, где мы не можем отстать и проиграть, — это поле боя. Вот там наш ИИ должен быть сильнее, чем вражеский. В экономике тоже. А вот манипулирование, выкручивание рук и выхолащивание смысла — это не прогресс, и нам туда не нужно", — подчеркивает Ашманов.
Фадеев же уверен: необходимо прекратить манипуляции людьми, а образование нужно просто спасать от цифровизации и ИИ.
"Если довести до логического завершения те тенденции, которые есть сейчас, то детей надо научить читать и писать, потом отсортировать, оставить им 3 экзамена ЕГЭ и пусть класса с 4 они к ним готовятся, а готовить их будет электронный репетитор. Вот сегодняшние тенденции! Образование сейчас хотят окончательно оцифровать и превратить в одну огромную "Алису". Это образование? Нет!" — заключил глава СПЧ.