Российский ученые разработали методику избавления нейросетей от галлюцинаций

Российский ученые разработали методику избавления нейросетей от галлюцинаций — 31.05.2026 — В России на РЕН ТВ

Новая разработка может применяться в юриспруденции, образовании и медицине.

Российские ученые из Университета Решетнева разработали методику, не позволяющую искусственному интеллекту придумывать различные факты. Об этом 31 мая сообщили РИА Новости в высшем учебном заведении.

«Команда… проанализировала типовые сценарии галлюцинаций и создала их классификатор. Затем был разработан пайплайн стресс-тестирования: система генерирует запросы, сравнивает ответы с эталоном и оценивает точность с помощью метрик и семантического сходства», – сказано в сообщении.

Придуманная российскими учеными система также способна оценивать риск выдачи недостоверного ответа. В случае ошибки об этом сразу становится известно. Данная разработка не привязана к конкретной модели искусственного интеллекта. Ее можно использовать в образовании, здравоохранении, юриспруденции и на портале «Госуслуги».

Ранее, 28 мая, IT-предприниматель Никита Прохоров предостерег россиян от излишней откровенности в разговоре с нейросетями.

РЕН ТВ в мессенджере «МАКС» – главный по происшествиям