В последнее время на искусственный интеллект (ИИ) растет ажиотажный спрос как на уровне исследователей разного уровня знаний и развития, так и на уровне значительной части населения — пользователей распространившихся в России информационных технологий так называемого «общего пользования». Не вдаваясь в подробности понятийного конструктивного аппарата искусственного интеллекта — здесь много придумано и упорядочено — хочу обратить внимание читателя только на один аспект процесса взаимодействия ИИ с человеком. А именно, более детально выделить возникшие элементы противостояния ИИ естественному интеллекту человека (ЕИ) в некоторых важных сторонах человеческой деятельности. При этом, обладая здоровым и профессиональным (имеющимся только у ИБ-шников!) чувством определенного недоверия к высказываниям третьих лиц о том или ином явлении (вспомните политику zero trust), я как пользователь многих распространенных информационных систем буду обосновывать свои выводы, в том числе, результатами собственных проверок.
Основные поисковые системы используют разные философии ранжирования, базирующиеся на технологиях ИИ. Google интегрирует модели семейства Gemini для генерации AI Overviews и персонализации выдачи на основе истории поиска и поведенческих факторов. Яндекс использует YandexGPT для интерпретации смысла запросов, приоритизируя русскоязычный контент с персонализацией и генерацией быстрых ответов. DuckDuckGo гарантирует полную приватность, отказываясь от профилирования пользователей и применяя ИИ только для анонимной суммаризации результатов из доверенных источников без адаптации под индивидуальные интересы. Bing использует Copilot Search с моделью GPT-4, генерируя AI-powered сводки с цитируемыми источниками в реальном времени благодаря живому индексу Bing, что делает его самым быстрым для новостей. Источником проверки ИИ ответов станет обновлённая система от поисковой системы Google Gemini 3.
- О качестве контента ИИ
Известно, что с недавних пор операторы связи в целях обеспечения безопасности на 24 часа отключают мобильный интернет и СМС оповещение в случае неиспользования на территории РФ мобильной связи более трех суток подряд. При возникновении такой коллизии один известный оператор связи присылает СМС следующего содержания:
Обратите внимание: капча работает только через мобильную сеть (Wi-Fi и VPN нужно отключить). Если верификация не пройдена, доступ восстановится автоматически через 24 часа. При возникновении сложностей позвоните нам: ******.
Ну вы понимаете, что фактически предлагается при выключенном мобильном интернете по нему же и обращаться для «верификации»! Очевидно, что такой контент мог сочинить только ИИ.
- О доверии к контенту ИИ
«Верить никому нельзя! Даже себе» — говорил генерал Мюллер в известном фильме. И вот мы наблюдаем уже точно контент, созданный ИИ:
Это — фейк, так как МФЦ точно не занимается этим.
- О рекомендациях ИИ
СМС оповещение — небезопасно и его начали постепенно убирать из технологий 2-го фактора аутентификации. Первой такой технологией стал сайт госуслуг, при заходе на который с мобильного устройства пользователю в безальтернативной форме предлагается перейти на подтверждение личности через Мах. Но при этом можно было настроить и альтернативный способ с использованием генераторов паролей. Однако для его реализации нужно предварительно зайти в личный кабинет, что с мобильного устройства уже невозможно было сделать. При этом пока сохранился старый способ захода (с помощью СМС) через десктопную версию госуслуг. Одна знакомая дама (возраст далеко за 60) просила меня помочь с рассматриваемой настройкой. Я в ее присутствии проделал эту процедуру и в ее личном кабинете напротив зарегистрированного на сайте госуслуг номера ее мобильного телефона увидел запись о том, что она не является владельцем этого номера. Причем в разделе зарегистрированных СИМ карт этот номер присутствовал! У оператора связи выяснилось, что номер телефона все-таки зарегистрирован на эту даму, но есть маленькая неточность в адресе, которую тут же исправили. Но номер-то был зарегистрирован на владельца личного кабинета! Такая с позволения сказать «информация» более присуща мошенникам, которые пытаются вызвать панику у клиента и принудить его к совершению срочных непродуманных действий. Очевидно, что подобную информацию мог дать только очень «мудрый» ИИ.
- Об использовании ИИ в колцентрах и на сайтах банков, операторов связи и других организаций
Наблюдается явная тенденция к резкому увеличению ИИ-агентов (роботов) в колл-центрах известных и широко востребованных организаций при общении с людьми. При этом роботы достаточно примитивны (реализуют так называемый «слабый» ИИ) и могут ответить только на самые простые вопросы, ответы на которые можно получить и минуя эти колцентры от ИИ в Гугле или Яндексе. До «живой» же службы операторов (или поддержки) добраться, особенно в выходные дни, практически невозможно. А ведь именно в выходные дни свободные от основной работы люди могут заняться выяснением вопросов с важными информационными ресурсами, например, с сайтом госуслуг. Кстати, реализовать доступ к этому ресурсу (в службу поддержки) по телефону, рекламируемому всеми доступными информационными ресурсами, практически невозможно.
- И последнее про ИИ
На самом деле, такая сильная приверженность к ИИ возникла, в частности, из-за резкого скачка в развитии информационных технологий. Но этот скачок, по-видимому, оказал влияние и на некоторые особенности поколения Z — людей, которые в настоящее время входят в зрелый возраст и начинают существенно влиять на все стороны развития нашей планеты. И это относится не только к РФ, но и к другим странам.
Выводы
Слабый ИИ (со слабыми опциями когнитивного мышления) полезен только вместе с опцией тщательного контроля и проверки естественным интеллектом. И не стоит чересчур увлекаться повсеместной и тотальной заменой ЕИ искусственным интеллектом, что явно прослеживается в публичном пространстве. Сильный ИИ (с когнитивным мышлением), которому только предстоит завоевать мир, потребует более углубленного специфичного контроля, в том числе и со стороны других "независимых" ИИ.
Что касается образовательных программ для учащихся средних и высших учебных заведений, то следует учитывать влияние информационных технологий на развитие мыслительных функций подрастающего поколения.
Но повсеместное применение ИИ учащимися — это действительно глобальная проблема и над сказанным выше они не задумываются, так же как о том, что легко сдав контрольные и зачеты, нечего для себя не получат в плане развития, только свободное время, которое они потратят [на что?].
