Галлюцинации нейросетей: Какие тайны скрывают Яндекс Станции?

Войти

👀 Алиса, подглядываешь? Видели ролики, где пользователи Яндекс Станций спрашивают Алису, есть ли у неё скрытая камера, а она уверенно отвечает, что есть? В Станциях действительно есть пасхалки, но не камеры. Исключения — Станция Дуо Макс, в ней есть камера с физической шторкой, которой её всегда можно закрыть. Все остальные колонки работают исключительно с микрофоном. В этом можно убедиться, если посмотреть разборы Станций в интернете. Тогда откуда такие ответы? Всё дело в галлюцинациях нейросетей. Это явление, когда нейросети генерируют правдоподобные, но ошибочные результаты. Над решением этой проблемы работают исследователи по всему миру, и за последние пару лет нейросети стали выдумывать факты гораздо реже, но полностью проблема еще не решена. Как работают большие языковые модели Они анализируют огромные массивы данных, выявляя закономерности и предсказывая следующее слово на основе вероятностей. Если спросить у модели, сколько будет два плюс два, она ответит «четыре». Но не потому, что осмыслила и поняла математические концепции, а потому, что часто видела в текстах «два плюс два» и «четыре» рядом. Если обучающие данные содержат ошибки или пробелы, нейросеть также может генерировать неточные результаты. Но ведь Алиса умеет искать информацию По принципу работы Алиса похожа на роутер: 🔸 Запросы об актуальном, например, о результате вчерашнего матча, направляются в Поиск, а затем обрабатываются YandexGPT. 🔸 Запросы вроде «Включи музыку» или «Поставь будильник» направляются в соответствующие сервисы. 🔸 А если пользователь хочет просто пообщаться с Алисой, она не всегда опирается на данные из поиска — иногда она просто разговаривает с пользователем и генерирует ответы сама. С галлюцинациями можно что-то сделать? Важно понимать, что галлюцинации нейросетей и их креативность — две стороны одной медали. Одна из задач разработчиков и тренеров нейросетей — снижать частоту их ошибок, сохраняя такие важные качества, как гибкость и умение находить нестандартные решения. И с каждой новой версией этот баланс удаётся соблюдать всё лучше. Так что не волнуйтесь: в Станциях с Алисой нет камеры (кроме Станции Дуо Макс).

#axios DLU6 DLV6 DLX6 BRG7 BRX6 Дональд Трамп во время телефонного разговора «неоднократно» просил Зеленского прекратить наносить удары по российским НПЗ, — Axios «Слово “дизель” много раз звучало во время разговора», — сказал источник. * Глава СВР Украины Рустем Умеров заявил, что на переговорах со Стивом Уиткоффом и Джаредом Кушнером в Киеве был достигнут «значительный прогресс» По его словам, количество «камней преткновения» сократилось с нескольких десятков до одного или двух ключевых вопросов. «Тенденция положительная. США чрезвычайно сосредоточены на вопросе прекращения войны в Украине. США понимают ситуацию на поле боя и сигнализируют всем, что эта ужасная война должна закончиться», — сказал он в интервью Axios. Также Умеров прокомментировал публикацию Kyiv Independent, которое ранее сообщило, что украинское правительство «становится все более разочарованным» работой Стива Уиткоффа. Умеров заявил Axios, что эта информация не соответствует действительности. «Стив проделал вместе с нами отличную работу. Мы не теряем времени и сохраняем фокус на поиске решений», — сказал он. ** **** Зеленский сообщил, что провел телефонный разговор с Дональдом Трампом, в ходе которого договорился с ним о встрече в Нью-Йорке на полях Генеральной Ассамблеи ООН «Только что говорили с Президентом Трампом. Важный разговор, и многое успели обсудить. Договорились о встрече в Нью-Йорке, и эта встреча может многое изменить. Дипломатическая динамика есть. Поблагодарил за визит Стива Уиткоффа и Джареда Кушнера в Киев: мы подробно прошлись по существенным деталям, и ребята увидели ситуацию в Украине. Мирный трек — приоритет номер один», — написал Зеленский.

$YDEX #Галюцинации_нейросетей

#Галюцинации_нейросетей