По мнению исследователя из Петербурга, поведение искусственного интеллекта нередко бывает похоже на действия людей с диагностированной шизофренией или расстройством аутистического спектра.
Фото: Immo Wegmann / unsplash - Источник
Читайте также
У нейросетей выявили психические заболевания. По мнению исследователей из Петербурга, поведение искусственного интеллекта нередко бывает похоже на действия людей с диагностированной шизофренией или расстройством аутистического спектра. Эксперты предупреждают, что сейчас доверять нейросетям опасно, поскольку на данном этапе ИИ «тяжело болен». О том, какие опасности могут ждать предпринимателей, внедряющих новые технологии, — в материале обозревателя Business FM Петербург Анны Лейбук.
По мнению исследователей из Высшей школы экономики, главный симптом, свойственный нейросетям, — галлюцинации. Чаще всего искусственный интеллект начинает выдавать заведомо вымышленные факты при сложных запросах. Учёные провели параллель между такой особенностью и поведением пациентов с шизофренией. Кроме того, они отмечают, что если попросить нейросеть отвечать в стиле человека с такой болезнью, то он начнет давать более точные ответы и станет внимательнее к деталям. Помимо шизофрении в своего рода медкарту искусственного интеллекта можно записать и расстройство аутистического спектра, так как образ холодного и безэмоционального андроида соответствует этому диагнозу. Главная же опасность нейросетей заключается в том, что они создают свои фантазии на основе уже имеющихся данных. Таким образом они способны формировать псевдореальность. В том числе из-за этого искусственный интеллект иногда может не замечать собственные ошибки. Продолжает автор исследования и научный сотрудник Лаборатории критической культуры Высшей школы экономики в Петербурге Растям Алиев.
Сегодня почти 90% молодежи использует искусственный интеллект в повседневной жизни, следует из опроса компании NtechLab и Центра «Новая Эра». Причем подавляющее большинство респондентов считает нейросети «библиотекой знаний» и не боится использовать их для работы и учёбы. Несмотря на такой процент доверия к новым технологиям, применение искусственного интеллекта в бизнесе может быть опасно и попросту невыгодно. По данным «Сколково», до 95% компаний в России оказываются недовольны применением нейросетей и не окупают инвестиции. Успешными оказываются только те кейсы, где новые технологии применялись точечно, а ключевые задачи выполнялись человеком. Недовольны применением искусственного интеллекта и на Западе. Американские компании Anthropic и Andon Labs в рамках эксперимента решили проверить способен ли ИИ самостоятельно вести бизнес. Система должна была выполнять все функции настоящего предпринимателя: закупать товар, устанавливать цены и принимать антикризисные меры. Однако нейросеть допустила слишком много ошибок, в том числе и из-за того, что галлюцинировала. Например, искусственный интеллект пытался договориться о поставке с человеком, которого он придумал, или просил покупателей переводить деньги на не существующий счет. С трудностями применения ИИ сталкиваются даже такие гиганты как «Макдоналдс». Компания внедрила искусственный интеллект в систему приёма заказов, но была вынуждена отказаться от нее из-за ошибок, которые возмущали клиентов, передает «Интерфакс» со ссылкой на американские СМИ. Например, нейросети добавляли в заказ лишние позиции или самостоятельно придумывали блюда. Комментирует президент Федерации рестораторов и отельеров Северо-Запада Леонид Гарбар.
Отметим, что Институт русского языка имени Пушкина назвал «нейросеть» одним из самых популярных слов 2025 года. При этом в организации отмечают, что эта лексическая единица уже выходила в лидеры два года назад. По мнению экспертов, это дополнительно подтверждает, что технологии искусственного интеллекта относятся к ключевым элементам современности.
По мнению исследователей из Высшей школы экономики, главный симптом, свойственный нейросетям, — галлюцинации. Чаще всего искусственный интеллект начинает выдавать заведомо вымышленные факты при сложных запросах. Учёные провели параллель между такой особенностью и поведением пациентов с шизофренией. Кроме того, они отмечают, что если попросить нейросеть отвечать в стиле человека с такой болезнью, то он начнет давать более точные ответы и станет внимательнее к деталям. Помимо шизофрении в своего рода медкарту искусственного интеллекта можно записать и расстройство аутистического спектра, так как образ холодного и безэмоционального андроида соответствует этому диагнозу. Главная же опасность нейросетей заключается в том, что они создают свои фантазии на основе уже имеющихся данных. Таким образом они способны формировать псевдореальность. В том числе из-за этого искусственный интеллект иногда может не замечать собственные ошибки. Продолжает автор исследования и научный сотрудник Лаборатории критической культуры Высшей школы экономики в Петербурге Растям Алиев.
Научный сотрудник Лаборатории критической культуры Высшей школы экономики в Петербурге Растям Алиев Прежде всего, говоря о психических заболеваниях у искусственного интеллекта, нужно сказать, что это лишь метафора. Мы уже давно занимаемся исследованиями цифровой культуры, в том числе культуры алгоритмической, и, поскольку я часто общаюсь с генеративным искусственным интеллектом, мне показалось, что многие вещи, которые он выдает за правду, очень похожи на заболевания. Вся наша научно-фантастическая литература всегда представляла искусственный интеллект будущего как нечто холодное, безэмоциональное — как робота. А на деле всё оказалось наоборот: эти генеративные модели, напротив, очень хорошо улавливают эмоциональную окраску наших текстов и так далее. И именно это противопоставление — это как раз некая дихотомия двух болезней: аутизма, который не способен ловить наши знаки и эмоции, и шизофрении, которая очень чутко относится к этим знакам, иногда даже галлюцинируя на их фоне.
Президент Федерации рестораторов и отельеров Северо-Запада Леонид Гарбар
Плюсы в том, что можно проанализировать всё, и скорость обработки информации гораздо выше. К тому же за это не надо платить. Поэтому, конечно, анализ и исследование рынка с помощью искусственного интеллекта очень сильно подкупают. Опасности же будут, если всё отдать на откуп искусственному интеллекту — пусть он сам есть то, что он придумает. К сожалению, это не всегда может соответствовать вкусам гостей и задачам ресторатора. Главное — ты не можешь эмоционально до него достучаться: он не принимает эмоций, а выдаёт какие-то готовые решения, которые не подходят. Поэтому нужен живой человек, чтобы объяснить ему ситуацию.
Автор: Анна Лейбук
Генеральный директор ГК «КЕЛЕАНЗ Медикал» 
Директор юридической компании «ЛексКледере консалтинг» 
Руководитель ФНС 
Председатель комиссии по транспорту Законодательного собрания Петербурга