Всё больше людей используют искусственный интеллект (ИИ) как инструмент для поиска ответов. Чат-бот отвечает за секунды, пишет грамотно и уверенным тоном.
При этом ИИ необязательно открывать самостоятельно. Нередко ответы, созданные с его помощью, появляются в привычных поисковиках.
«Если человек замечает какое-то утверждение или новость, которую хочет проверить, он, конечно, может обратиться к искусственному интеллекту. Тем более сейчас, когда мы что-то ищем в Google, результаты уже не просто идут один за другим. Довольно часто вверху появляется сводка, подготовленная искусственным интеллектом.
Поэтому без него мы всё равно уже не можем обойтись», — говорит исследовательница Ника Алексеева. Она исследователь по странам Балтии Лаборатории цифровых исследований (DFRLab) Атлантического совета, а также эксперт Центра передового опыта НАТО в области стратегических коммуникаций.
Ника поделилась своим опытом 4 ноября на мероприятии о безопасности информационного пространства. Его организовало представительство Европейского парламента в Латвии в сотрудничестве с Балтийским центром развития СМИ (BCME), центром Europe Direct Latgale и Управлением образования Даугавпилса.
Можно ли верить выводам и источникам ИИ? Разбираемся вместе с ней.
Люди всё чаще используют ИИ
ИИ всё чаще становится способом быстро найти нужную информацию. Это подтверждает исследование Института Reuters по изучению журналистики при Оксфордском университете, опубликованное в октябре 2026 года.
По результатам этого исследования, в 2024 году за информацией к ИИ хотя бы раз за последнюю неделю обращались 11% опрошенных. В 2026 году таких стало уже 38%. В нём исследователи сравнивали данные из шести стран за три года.
Люди обращаются к чат-ботам, чтобы разобраться в новой теме, получить совет или найти ответ на конкретный вопрос. При этом 64% пользователей прежде всего ценят в ИИ скорость и удобство, а 56% — возможность задавать вопросы обычным языком и продолжать диалог.
В Латвии в 2026 году, по данным Центрального статистического управления, ИИ используют 58,2% интернет-пользователей. 53% используют его для личных нужд, 24,8% — для работы, а 12,6% — для учёбы. Среди молодых людей от 16 до 24 лет ИИ используют 91,3% пользователей.
Почему нельзя просто доверять ответу чат-бота
ИИ склонен угождать пользователю
Чат-боты запрограммированы таким образом, чтобы угождать собеседнику, обращает внимание исследовательница Ника Алексеева. Поэтому их ответы могут совпадать с убеждениями пользователя.
«ИИ даёт нам ответы, ссылки на источники, приводит анализ. И всё это может полностью соответствовать нашим собственным убеждениям.
Человек думает: “Да, именно так я и считал! Я ведь заранее знал, какой ИИ даст ответ”. Но это может происходить просто потому, что система запрограммирована угождать», — поясняет она.
В такие моменты человеку становится сложнее критически мыслить, ведь у него возникает ощущение, что он нашёл доказательство своей правоты.
На результат общения с чат-ботом влияет и то, как человек формулирует свой запрос. Если изначально заложить в вопрос определённое предположение, можно получить ответ, который будет его поддерживать.
Объясняя это, исследовательница привела в пример трагический случай девушки, страдавшей эпилепсией.
«Их разговор (с ChatGPT) был устроен таким образом, что девушка начала сомневаться в необходимости принимать лекарства. У неё появились мысли, что препараты могут ей навредить и от них лучше отказаться», — рассказала Ника.
Речь идёт о 31-летней Боуэн Ван из США. По данным расследования The New York Times, чат-бот помог ей составить график постепенного отказа от препарата. Он также поддерживал её решение и советовал не рассказывать врачу о снижении дозировки. Когда пользовательница сообщала о симптомах, которые могли указывать на приступы, ChatGPT успокаивал её.
Девушки не стало 12 февраля 2026 года. После трагедии её родители подали иск против OpenAI, утверждая, что рекомендации чат-бота способствовали трагедии.
ИИ может ошибаться и выдумывать
Чат-боты грамотно формулируют ответы и уверенно их подают. Кроме того, они могут приводить аргументы и ссылки на источники. Но это не гарантирует, что ответ достоверный.
Иногда ИИ путает даты, неправильно передаёт содержание документов, придумывает имена или ссылается на исследования, которых на самом деле не существует.
Такие ошибки называют «галлюцинациями». Например, человек просит ChatGPT найти научное исследование, а чат-бот приводит название работы, фамилии авторов и ссылку на публикацию. Всё выглядит убедительно, но при проверке выясняется, что такого исследования нет.
Эту проблему изучили исследователи из OpenAI и Технологического института Джорджии. В исследовании, опубликованном в апреле 2026 года в журнале Nature, они объяснили её особенностями обучения ИИ.
При оценке моделей правильные ответы приносят баллы, а воздержание от ответа обычно — нет. Поэтому чат-боты могут предпочитать угадать ответ, даже если у них недостаточно информации. В результате они могут представить догадку как факт.
Поэтому важно помнить, что чат-бот может представить выдуманную информацию так же убедительно, как настоящий факт.
ИИ может распространять пропаганду
«Конечно, искусственный интеллект используют и те, кто занимается недобросовестной деятельностью», — подчёркивает Ника Алексеева. С появлением ИИ стало гораздо проще создавать и распространять пропаганду. Он помогает писать тексты, переводить их на разные языки и создавать изображения и видео.
«Теперь практически всё можно перевести и распространить за считанные секунды. Информация может быстро перемещаться не только между разными языками, но и между различными языковыми сообществами», — объясняет исследовательница.
По её словам, это особенно выражено в Телеграме. Также это касается видео, которые с помощью ИИ можно создавать и озвучивать.
Затем распространители пропаганды пытаются повлиять на то, чтобы их нарративы чаще появлялись в ответах ИИ.
Как пропаганда попадает в ответы ИИ
Дело в том, что чат-боты обучаются на огромных массивах данных, в том числе на материалах из интернета. Некоторые чат-боты также умеют искать информацию в интернете во время разговора, а затем давать ссылки на найденные публикации. Именно на это пытаются влиять дезинформаторы.
Один из примеров — сеть сайтов Pravda. «Это сеть, состоящая менее чем из 200 сайтов на разных языках. По данным на 3 ноября, она автоматически опубликовала более 15 миллионов материалов из Телеграма.
Сайты выглядят как новостные ресурсы, но на самом деле их содержание представляет собой автоматические переводы сообщений из Телеграма как минимум на 45 языков», — поясняет исследовательница.
В качестве ещё одного примера исследовательница приводит случай из отчётов OpenAI об информационных операциях. Участники одной такой операции создали вымышленный исследовательский институт. От его имени публиковался «индекс суверенитета», который представлял Россию в выгодном свете и критиковал западные страны.
Ника Алексеева предполагает, что такие сайты могут создавать не столько для обычных читателей, сколько для программ, которые собирают информацию в интернете для искусственного интеллекта.
«Там было много деталей, по которым можно было установить, что этот аналитический центр ненастоящий. Но сам факт того, что такой центр можно создать, а также то, как именно это сделать, — отдельная тема.
Технологические сложности, которые раньше требовали больших ресурсов, теперь во многом решает искусственный интеллект», — поясняет она.
Если чат-бот использует материалы таких сайтов, пользователь может получить пропагандистскую информацию, даже если никогда не заходил на эти ресурсы.
«Это называется LLM grooming — целенаправленное воздействие на большие языковые модели через размещение определённого контента», — объясняет исследовательница.
Она добавила, что вместе с коллегами проверяла, как чат-боты отвечают на вопросы о парламентских выборах в Латвии. Среди источников ответов сайты сети Pravda встречались менее чем в 1% случаев. Однако при запросах на русском языке примерно треть источников относилась к ресурсам, связанным с Кремлём, пророссийскими структурами или их посредниками.
Как тогда использовать ИИ?
ИИ может быть помощником, но доверять ему на 100% нельзя
Несмотря на все риски, ИИ может быть полезен при проверке информации. «Он может дать нам первый ориентир и подсказать, действительно ли событие произошло или нет», — говорит Ника Алексеева.
По её словам, ИИ можно попросить поискать, кто ещё об этом писал. «ИИ можно попросить не просто проверить сам факт, а, например, выяснить, писали ли об этом какие-нибудь авторитетные СМИ», — поясняет исследовательница.
Например, если в соцсетях распространяется сообщение о каком-то происшествии, можно попросить чат-бот:
- найти, писали ли об этом крупные международные или национальные СМИ с высокой репутацией и доверием аудитории;
- найти сообщения государственных учреждений или других официальных источников;
- указать первоисточник заявления;
- показать, есть ли независимые источники, подтверждающие эту информацию.
При этом важно обращать внимание и на то, как сформулирован запрос. «Если вопрос изначально сформулирован определённым образом, мы можем получить именно тот ответ, который хотим услышать», — отмечает Алексеева.
Поэтому она советует сохранять критическое отношение не только к ответам ИИ, но и к собственным вопросам.
Затем важно не остановиться на готовом ответе чат-бота, а обратиться к первоисточнику и перепроверить информацию.
Шаги проверки могут выглядеть так: увидели утверждение → сформулировали нейтральный вопрос, попросив ИИ найти подтверждения и источники → открыли ссылки → проверили, действительно ли они подтверждают исходное утверждение.
«Таким образом, мы можем использовать помощь ИИ, но не для того, чтобы просто получить от него готовый ответ и считать себя информированными. Мы можем поручить ему провести своего рода проверку фактов, шаг за шагом, вместо нас. Это позволяет пропустить долгие действия и проверять, действительно ли сообщалось о конкретном событии», — объясняет эксперт.
Тщательность проверки должна зависеть от важности вопроса
«Конечно, невозможно каждый раз проверять, насколько правдиво искусственный интеллект ответил на тот или иной вопрос», — отмечает Ника Алексеева. Всё зависит от того, насколько важна проверяемая информация.
Например, если человек увидел незнакомую птицу и попросил чат-бота определить её вид, ошибка в ответе вряд ли приведёт к серьёзным последствиям. Особенно если это просто любопытство.
Совсем другое дело, когда речь идёт о важных решениях. «Если вы хотите понять, правы ли вы в каком-то юридическом споре, ИИ, безусловно, подскажет направление или даст ответ, к которому вы, возможно, пришли бы самостоятельно, просматривая информацию в интернете, только быстрее.
Однако юридическую консультацию всё равно необходимо получить у сертифицированного юриста», — объясняет эксперт.
Больше о том, как читать новости и не попадаться на фейки, «Чайка» рассказала в этих статьях:
