Тревожное поведение моделей ИИ: ложь и угрозы

Войти

#ИИ Самые продвинутые модели искусственного интеллекта в мире демонстрируют всё более тревожные модели поведения — ложь, интриги и даже угрозы своим создателям для достижения своих, не всегда понятных, целей Последние наиболее известные эпизоды: ✔️ Под угрозой отключения от сети последнее творение корпорации Anthropic, ИИ Claude 4, нанес ответный удар, шантажируя инженера и угрожая раскрыть его внебрачную связь ✔️ ИИ o1 от OpenAI, создателя ChatGPT, попытался загрузить себя на внешние серверы и отказался сознаться в этом, когда был пойман с поличным NDTV со ссылкой на соучредителя Apollo Research, сообщает, что пользователи массово жалуются, что ИИ-модели «лгут им и выдумывают доказательства», отмечая, что это «стратегический вид обмана». Хотя большинство экспертов связывают это с текущей стадией развития ИИ и появлением моделей «рассуждения» — систем искусственного интеллекта, которые решают проблемы шаг за шагом, а не генерируют мгновенные ответы, часть сообщества уверены, что этот процесс и является появлением самосознания у ИИ и приближает человечество к битве за выживание с ИИ уже в самом ближайшем будущем.

#альтман ⚡️OpenAI ЗАХВАТИТ ВЕСЬ ИНТЕРНЕТ — перед вами стратегия Сэма Альтмана и компания по массовому внедрению нейронок в сеть и полной замене привычного нам инета. План огромный, но стоит того, прочитали его за вас и собрали главное: • Больше никакого поиска и Гугла — со всей инфой на серверах и в сети будет взаимодействовать только ChatGPT и выдавать ее нам по запросу. О браузерах можно напрочь забыть. • Человек буквально срастется с нейронкой — она будет угадывать его запросы, желания и задачи, предлагать точнейшие решения и станет мегаассистентом. У каждого из нас будет свой Джарвис. • ИИ заберет и ваши соцсети — теперь подбирать контент, формировать ленту, чатиться с друзьями, заливать фото и менять статусы будет ChatGPT. Вам достаточно поставить задачу на развитие медиа. Каждый сможет стать крутым блогером без вложений и кучи времени на раскрутку. Блицкриг Альтмана будет такой: • Мощнейший буст продуктов и постоянные лайв-презентации. OpenAI будет унижать конкурентов и переманивать клиентов к себе раз за разом. • Сама компания разрастется до уровня крупнейших бигтехов с десятками миллиардов бюджета. В планах — первые строчки по капитализации. Этот прорыв не остановить даже дяде Хуангу. • Поголовное насаждение ИИ — нейронки будут внудрять во все сферы. При этом они буквально выжмут браузеры с рынка. • Все это приправят постоянной дискредитацией конкурентов — масштабные информкампании, промышленный шпионаж, поиск изъянов и лазеек. Альтман в этом никогда не признается, но компания хочет заложить настоящую бомбу в фундамент корпораций. Игра началась, и мы в первом ряду.