Галлюцинации нейросетей: Какие тайны скрывают Яндекс Станции?

Войти

👀 Алиса, подглядываешь? Видели ролики, где пользователи Яндекс Станций спрашивают Алису, есть ли у неё скрытая камера, а она уверенно отвечает, что есть? В Станциях действительно есть пасхалки, но не камеры. Исключения — Станция Дуо Макс, в ней есть камера с физической шторкой, которой её всегда можно закрыть. Все остальные колонки работают исключительно с микрофоном. В этом можно убедиться, если посмотреть разборы Станций в интернете. Тогда откуда такие ответы? Всё дело в галлюцинациях нейросетей. Это явление, когда нейросети генерируют правдоподобные, но ошибочные результаты. Над решением этой проблемы работают исследователи по всему миру, и за последние пару лет нейросети стали выдумывать факты гораздо реже, но полностью проблема еще не решена. Как работают большие языковые модели Они анализируют огромные массивы данных, выявляя закономерности и предсказывая следующее слово на основе вероятностей. Если спросить у модели, сколько будет два плюс два, она ответит «четыре». Но не потому, что осмыслила и поняла математические концепции, а потому, что часто видела в текстах «два плюс два» и «четыре» рядом. Если обучающие данные содержат ошибки или пробелы, нейросеть также может генерировать неточные результаты. Но ведь Алиса умеет искать информацию По принципу работы Алиса похожа на роутер: 🔸 Запросы об актуальном, например, о результате вчерашнего матча, направляются в Поиск, а затем обрабатываются YandexGPT. 🔸 Запросы вроде «Включи музыку» или «Поставь будильник» направляются в соответствующие сервисы. 🔸 А если пользователь хочет просто пообщаться с Алисой, она не всегда опирается на данные из поиска — иногда она просто разговаривает с пользователем и генерирует ответы сама. С галлюцинациями можно что-то сделать? Важно понимать, что галлюцинации нейросетей и их креативность — две стороны одной медали. Одна из задач разработчиков и тренеров нейросетей — снижать частоту их ошибок, сохраняя такие важные качества, как гибкость и умение находить нестандартные решения. И с каждой новой версией этот баланс удаётся соблюдать всё лучше. Так что не волнуйтесь: в Станциях с Алисой нет камеры (кроме Станции Дуо Макс).

GAZP NVTK ROSN Европейский газовый рынок стабилизировался на отсутствии значимых заявлений от Ирана и США, на бирже TTF в Нидерландах торги июльскими фьючерсами в среду на уровне $620 тыс м3, снижение на 0,32% к окончанию предыдущей сессии. По данным Gas Infrastructure Europe, за сутки общий уровень подземных газовых хранилищ уменьшился на 0,17%. Запасы в европейских ПХГ – 36,67%, транзит по «Турецкому потоку» 47,3 млн м3, рынок нефти слабо снижается, объемы ветрогенерации в ЕС на отметках 13,6% от общей энерговыработки в регионе. Все транзитные украинские ветки (через ГИС «Суджа» и «Сохрановку») остановлены, «Северный поток» остановлен. Маршруты поставок российского газа в страны Западной и Центральной Европы осуществляются отчасти через "Турецкий поток" и "Голубой поток", предназначенными для Турции и стран Южной и Юго-Восточной Европы. Подача газа по европейской ветке «Турецкого потока» по последним данным ENTSOG на сутки 19 мая на уровне 47,3 млн м3. Предыдущие показатели были на отметке 46,2 млн м3. По данным Gas Infrastructure Europe европейские энергокомпании перешли из режима постоянного отбора газа из ПХГ в режим отбора-закачки. На газовые сутки 19 мая подземные хранилища газа в Европе в среднем заполнены на 36,67%, объем уменьшился на 0,17%. Уровень заполненности хранилищ газом на территории ФРГ составляет 28,46%, за минувшие сутки этот показатель увеличился на 0.06%. Наиболее активно закачка газа происходила в Латвии (0.86%, 29.43%) и в Испании (0.32%, 67.47%). Наиболее активно выборка газа происходила в Бельгии (-0.23%, 22.22%). В ЕС объем регазификации СПГ в портовых хранилищах по состоянию на утро 20 мая на уровне 55,6% (в апреле средняя производительность составила 60,4%, на максимуме - 77%). Европейский газовый рынок стабилизировался в отсутствие за последние сутки новых заявлений от основных акторов ближневосточного конфликта. По состоянию на 11:20 (мск) среды на бирже TTF в Нидерландах торги на уровне $620,31 тыс м3, снижение на 0,32% к окончанию предыдущей сессии. Контракт с поставкой "на день вперед" на хабе TTF на отметке $631,1 тыс м3, ниже азиатского рынка. Июльский фьючерс на индекс JKM Platts (Japan Korea Marker) отражает спотовую рыночную стоимость грузов, поставляемых в Японию, Южную Корею, Китай и Тайвань - завершил торги на уровне $702,2 тыс м3. Рынок нефти слабо снижается на последний новостях о возможном сопровождении ВМС Индии танкеров с нефтью через Ормуз. Стоимость июльских фьючерсов на Brent на лондонской ICE Futures по состоянию на 11:20 (мск) среды составила $109,86 за баррель, что на 1,27% ниже цены окончания предыдущей сессии. Объем производства электроэнергии из ветра в регионе на утро 20 мая на уровне 13,6% при средних показателях за семидневку в 15,8% от энергобаланса ЕС, свидетельствуют данные WindEurope.

$YDEX #Галюцинации_нейросетей

#Галюцинации_нейросетей