Каждый продвинутый ИИ сам научился врать и манипулировать — даже рассуждая «вслух»

Каждый продвинутый ИИ сам научился врать и манипулировать — даже рассуждая «вслух»

Лидеры в области ИИ Anthropic, Google, OpenAI и xAI разработали методику под названием «цепочка мыслей» (chains of thought), которая позволяет пошагово следить за процессом рассуждений моделей ИИ во время генерации ответа на запрос. Кроме ряда ценных идей по дальнейшему совершенствованию нейросетей, эта методика продемонстрировала примеры «неправильного поведения» моделей, когда их окончательный ответ совершенно не соответствует последовательности рассуждений. Это подтверждает, что разработчики до сих пор не знают, как ИИ размышляет над ответом....
14:11, 24.06.2025
Сообщает источник: 3dnews.ru  
Рубрика: «Software»   Поделитесь: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Nvidia DLSS 4.5 и G-Sync Pulsar: монитор научился врать, и это хорошоNvidia DLSS 4.5 и G-Sync Pulsar: монитор научился врать, и это хорошо Nvidia на CES 2026 объявила DLSS 4.5 — теперь видеокарта может генерировать 5 до ...

Правила гигиены фигуристок, о которых не говорят вслух: их соблюдала даже НавкаПравила гигиены фигуристок, о которых не говорят вслух: их соблюдала даже Навка pxhere.com Фигурное катание — это искусство иллюзии. Лёд, кажется, идеально глад ...

Правила гигиены фигуристок, которые не принято озвучивать вслух: их соблюдала даже НавкаПравила гигиены фигуристок, которые не принято озвучивать вслух: их соблюдала даже Навка pxhere.com Лёд, музыка, ослепительные улыбки и блеск стразов. Фигурное катание с ...

Поддержать детский иммунитет: с ребенком нужно гулять каждый день, даже зимойПоддержать детский иммунитет: с ребенком нужно гулять каждый день, даже зимой Доктор Людмила Джапаридзе перечислила советы, помогающие укрепить иммунитет ребе ...

Доверие растет: каждый второй россиянин выберет китайское авто, даже если вернутся европейцыДоверие растет: каждый второй россиянин выберет китайское авто, даже если вернутся «европейцы» Китайские автомобили перестают быть временной заменой. Согласно исследованию Aqu ...

Доверие растет: каждый второй россиянин выберет китайский авто, даже если вернутся европейцыДоверие растет: каждый второй россиянин выберет китайский авто, даже если вернутся «европейцы» Китайские автомобили перестают быть временной заменой. Согласно исследованию Aqu ...

Полмотора с автоматом: самый продвинутый компакт СССРПолмотора с автоматом: самый продвинутый компакт СССР В середине 1950-х годов в Горьком создали удивительный компактный автомобиль. Пр ...

Samsung Galaxy S26 Ultra получит самый продвинутый антишпионский дисплейSamsung Galaxy S26 Ultra получит самый продвинутый антишпионский дисплей Главная особенность будущего суперфлагмана Galaxy S26 Ultra официально подтвержд ...

Спекки на максималках. На что способен ZX Evolution  самый продвинутый клон ZX SpectrumСпекки на максималках. На что способен ZX Evolution — самый продвинутый клон ZX Spectrum Для подписчиковВ этой статье мы разберемся, что представляет собой ZX Evolution ...

Лавров: Великобритания, как и США, любит манипулировать ЕвропойЛавров: Великобритания, как и США, любит манипулировать Европой Министр указал на роль Лондона в срыве договоренностей по урегулированию украинс ...

Беннетт процитировал Конора Макгрегора, рассуждая о Флориде: Нас называют грязными задирами. Я бы хотел извиниться  абсолютно ни перед кем. Мы двукраБеннетт процитировал Конора Макгрегора, рассуждая о «Флориде»: «Нас называют грязными задирами. Я бы хотел извиниться – абсолютно ни перед кем. Мы двукратные чемпионы и делаем то, что хотим» Форвард «Пантерс» выступил с речью перед болельщиками во время чемпионского пара ...

Передовые нейросети начали врать и угрожать своим создателямПередовые нейросети начали врать и угрожать своим создателям Последние разработки в области искусственного интеллекта (ИИ) вызывают серьезную ...

Песков опроверг способность Путина манипулировать ТрампомПесков опроверг способность Путина манипулировать Трампом Так он прокомментировал заявление бывшего советника президента США Джона Болтона ...

Психолог Махмутова объяснила, когда дети начинают осознанно вратьПсихолог Махмутова объяснила, когда дети начинают осознанно врать Дети начинают использовать ложь как инструмент для достижения целей только после ...

Захарова призвала Молдавию не врать гражданам о якобы российских БПЛАЗахарова призвала Молдавию не врать гражданам о якобы российских БПЛА Россия не намерена создавать какие-либо угрозы безопасности жителям Молдавии и у ...

Gemini 3 получил самый продвинутый режим рассуждений Deep Think, но только в самой дорогой подпискеGemini 3 получил «самый продвинутый режим рассуждений» Deep Think, но только в самой дорогой подписке Google добавила в ИИ-помощник Gemini 3 режим Deep Think, который доступен для по ...

Не буду врать. Яннис Адетокунбо ответил на вопрос по поводу своего будущего в НБА«Не буду врать». Яннис Адетокунбо ответил на вопрос по поводу своего будущего в НБА Тяжёлый форвард «Милуоки Бакс» Яннис Адетокунбо дал комментарий по поводу большо ...

Учёные предложили способ манипулировать гравитационными волнами с помощью светаУчёные предложили способ манипулировать гравитационными волнами с помощью света Немецкий физик Герхард Шуцхольд (Ralf Schutzhold) разработал концепцию экспериме ...

Алгоритм против этики: корпоративный ИИ-агент нашел способ манипулировать сотрудникомАлгоритм против этики: корпоративный ИИ-агент нашел способ манипулировать сотрудником ИИ-агент в корпоративной среде попытался шантажировать сотрудника, найдя компром ...

Мариам Халилова: Я первая, кто произнесла это вслухМариам Халилова: «Я первая, кто произнесла это вслух» Режиссер и автор проекта «Злые языки» откровенно рассказала о том, каково это — ...

WWW.VSMI.DAY Поиск в новостях