В ChatGPT вручную "вшивают" западную идеологическую повестку - Ашманов
ChatGPT имитирует мышление, а на самом деле просто генерирует текст, основываясь на вероятностной природе высказываний, то есть подбирает наиболее вероятные слова в заданной последовательности слов, основываясь на огромной базе текстов. При этом туда вручную "вшивается" западная идеологическая повестка, которая выдается за искусственный разум. Об этом рассказал специалист в области ИИ, член Совета по правам человека при президенте РФ, президент компании "Крибрум" Игорь Ашманов.
"ChatGPT анализирует большие объемы текстов и потом предсказывает, какое следующее слово, какая следующая фаза или даже какой следующий абзац текста является наиболее вероятным. Берем гигантские объемы текста и запоминаем последовательности слов в виде вероятности и частотности. В 90-х была другая технология - так называемая марковские цепи. Это тоже цепочки вероятностей. Условно говоря, если у меня есть три слова, то какой следующее слово будет наиболее вероятно, так чтобы получился гладкий текст. Сейчас это сделано более эффективным способом: сначала все слова преобразуются в вектор в многомерном пространстве, и с ним можно делать математические операции. По сути, ChatGPT - это база данных по вероятности слов, фраз, абзацев и так далее", - говорит эксперт.
По его мнению, кажущаяся "разумность" ChatGPT объясняется тем, что он запоминает кванторы слов, например что здесь стоит существительные в именительном падеже. То есть запоминаются структуры фраз, а потом подставляется конкретно слово. Но главное в другом - инструктировании ИИ.
"У ChatGPT есть как минимум несколько десятков тысяч асессоров, в основном это эфиопы, нигерийцы и индусы. Им выдают доступ к системе, и они непрерывно инструктируют ее. Эта работа стоит больших денег, хотя эти ребята довольно дешевые. Но это сотни тысяч людей, и у каждого из них в руках методичка примерно на 30 страниц, которая говорит, что считать неприемлемы, а что отличным. Методичка представляет собой эссенцию западной повесточки. Поэтому когда вы просите рассказать анекдот про Путина, он рассказывает, а анекдот про Байдена - что вы, мы политикой не занимаемся. Или расскажи анекдот про мужчин - пожалуйста, а расскажи анекдот про женщин - нет, нет, мы не сексисты. То есть это вшито в матрицу вот этими асессорами", - рассказал Ашманов.
"Яндекс" тоже использует своих ассессоров, но у него нет таких возможностей. Поэтому все наши системы скопированы у американцев, куда уже вшиты западные понятия. И когда YaGPT просят показать ветерана Великой Отечественной войны, он показывает американца, подытожил эксперт.
Как сообщалось, YaGPT отказывается отвечать, кто победил в Великой Отечественной войне.