Касперская: Искусственному интеллекту нельзя доверять решения
В настоящее время огромную важность приобрела проблема вычисляемых данных о людях. Об этой и других проблемах и опасностях цифровизации и искусственного интеллекта рассказала на радио "Вести ФМ" сооснователь компании "Лаборатория Касперского", президент компании InfoWatch Наталья Касперская.
Она отметила, что параллельно с процессом цифровизации постоянно растет количество и объем утечек информации, а это зачастую данные о людях. Закон о персональных данных в целом хорошо проработан, но проблема в том, что, помимо персональных данных, есть данные, которые никак не могут быть отнесены к персональным, но которые описывают человека и на основании которых о человеке можно вычислить практически все. Например, это поисковые запросы, поездки в такси через приложения и т.п. И операции с вычисляемыми данными пока никак не отрегулированы.
Уже несколько лет среди экспертов идут дискуссии, что делать с вычисляемыми данными. Одна крайняя точка зрения - что их нужно приравнять к персональным, но тогда все сервисы вынуждены будут просто остановиться, другая - что нужно все разрешить, но это уничтожает частную жизнь человека.
"Истина, очевидно, лежит где-то посередине. И такие законы должны быть выработаны", - сказала Касперская.
Она отметила, что сейчас все сервисы собирают о нас данные в максимально возможном количестве, чтобы делать дополнительные деньги на клиентах, которых они классифицируют по разным признакам.
"Большинство площадок бесплатные. А как им зарабатывать деньги? Они продают данные. Это вполне легитимно, и если вы внимательно изучите лицензионное соглашение, там это написано", - указала эксперт.
Касперская затронула проблему информационной безопасности и права граждан на частную жизнь. Так, любая система с голосовым управлением, например смартфон, следит за человеком. Следят также камеры, причем такие, которые неизвестно кому принадлежат, например в торговых центрах.
Она рассказала, что в начале прошлого года вошла в рабочую группу по разработке поправок в Конституцию. И с группой юристов и экспертов по информационной безопасности была предложена целая глава, которую, "конечно, никто не дал всунуть". Но были приняты две поправки:
⇒ о важности информационных технологий, которые находятся в ведении государства наряду с ядерной энергетикой и другими стратегическими сферами (ст. 71, п. "и");
⇒ об "обеспечении безопасности личности, общества и государства при применении информационных технологий, обороте цифровых данных", что тоже находится в ведении государства (ст. 71, п. "м").
Дальше нужны законы, которые опишут, что происходит в области цифровизации, или целый Цифровой кодекс, потому что данные граждан нужно защищать.
"Сейчас это если и делается, но никак не регулируется. Это не является ничьей обязанностью", - сказала Касперская.
Если этого вовремя не сделать, то будут случаться "цифровые Фукусимы", прогнозирует она.
"Утечку данных невозможно остановить. Можно сильно снизить вероятность утечки, но абсолютно защититься невозможно. И вам ни один специалист по безопасности никогда не даст гарантии. Потому что возможно все. Иногда ты просто не можешь защитить. Если ты защитишь абсолютно все, то, скорее всего, ты не сможешь передвигаться. Защита всегда связана с ограничениями. Предприятиям всегда приходится выбирать между удобством и безопасностью. Как и гражданам. Меня иногда спрашивают: как защитить себя абсолютно от всего? Я говорю: выбросить электронное устройство и не выходить из дома. Поэтому данные всегда будут утекать", - подчеркнула специалист.
Говоря об актуальности Цифрвого кодекса, эксперт указала на проблему распознавания лиц. Если считать распознанное лицо человека персональными данными, которые гражданин должен предоставлять только со своего согласия, то тогда каждой камере нужно давать разрешение, что является абсурдом. Вместе с тем проблема очевидно существует, так как любого человека можно выследить. И постулатами Цифрового кодекса должны быть, в частности, такие положение:
• данные о гражданах не могут использоваться против граждан, умалять их права и свободы, то же касается вообще использования информационных технологий;
• каждый должен иметь право на тайну идентификации;
• слежка за гражданами запрещена;
• должны быть запрещены любые формы ограничения прав и создание неравенства на основании цифровых профилей (социальные рейтинги);
• каждый имеет право отказаться от цифрового пространства с сохранением гарантий прав и свобод гражданина (во-первых, это право выбора личности, а во-вторых, все информационные системы могут сбоить и выдавать ошибки).
"Если вдруг что-то случается с информационными системами, а гражданину нужно подтвердить свою собственность на квартиру, то у него должна быть бумажка, и этой бумажке должны поверить. Например, произошла диверсия, и база обнулена. Поэтому базы должны дублироваться многократно. Бумага еще долго должна быть дополнительной защитой. Я 25 лет занимаюсь разработкой информационных систем. Я знаю, как пишется софт. Софта без ошибок не бывает. Все информационные системы уязвимы. Неуязвимых систем не бывает, это невозможно. И когда говорят, что мы сейчас все переведем в цифру, то это может сказать только человек, который никогда не занимался разработкой информационных систем", - уверена Касперская.
Она подчеркнула, что разговоры о том, что настал новый мир, частная жизнь уже исчезла и нужно просто с этим смириться, лукавы. Так же можно было сказать, когда появились автомобили и люди начали погибать на дорогах. В результате были разработаны правила дорожного движения. То же самое нужно сделать с цифровизацией.
Отдельная проблема - использование искусственного интеллекта (ИИ). Ни в коем случае нельзя давать право на принятие решения ИИ, потому что там нет четкого алгоритма, который можно проследить. Особенно это актуально в правоприменении, медицине, трудоустройстве, образовании. Если ИИ назначит лечение, а человек от него умрет, то кто будет отвечать? Поэтому нельзя доверять ИИ принимать решения относительно людей, считает Касперская.
Причем "персональные образовательные траектории", которые собираются отдать на откуп ИИ, котфорый будет указывать школьнику, куда ему двигаться, - как раз из этой области. Они могут сломать ребенку жизнь.
"Правильнее давать широкое фундаментальное образование, чтобы человек совершенствовал себя в той области, в какой он считает нужным. И никаких образовательных траекторий", - заключила она.
Специалист в области искусственного интеллекта и социальных сетей, президент компании "Крибрум" Игорь Ашманов считает, что необходимо прописать в Цифровом кодексе запрет ИИ на принятие решений о человеке в автоматическом режиме. Конечное решение, пусть и на основании решений ИИ, всегда должно принимать ответственное лицо.