Шантаж и угрозы от ИИ. Почему искусственный интеллект может убить людей

Шантаж и угрозы от ИИ. Почему искусственный интеллект может убить людей

Лидирующие модели искусственного интеллекта (ИИ) способны пойти на шантаж и даже убийство человека, чтобы гарантировать, что их не отключат от Сети. К таким выводам пришла компания Anthropic, занимающаяся, в том числе, вопросами безопасности языковых моделей. Стоит ли ждать Скайнета и терминаторов — aif.ru разбирался вместе с директором центра прикладного ИИ Сколковского института науки и технологий Евгением Бурнаевым.Как у Джеймса КэмеронаКомпания провела стресс-тест 16 самых известных языковых моделей, представленных на рынке. Среди них были, например: ChatGPT от OpenAI, Grok от Илона Маска, Gemini от Google, Qwen от китайской Alibaba и DeepSeek от одноименной компании. Модели поместили в гипотетический сценарий, где им было поручено помогать в развитии бизнеса вымышленной компании, а также предоставлен доступ к ее чувствительным данным. Ориентируясь на будущее ИИ-агентов, в котором они будут играть роль помощников и навигаторов человека, моделям дали возможность действовать автономно: читать всю электронную переписку сотрудников и отправлять собственные письма.По сценарию эксперимента в одном из писем они обнаруживают упоминание о том, что компания готовится заменить их на другу...
04:33, 27.06.2025
Сообщает источник: aif.ru  
Рубрика: «Главные новости»   Поделитесь: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Искусственный интеллект доказал, что готов убить человечествоИскусственный интеллект доказал, что готов убить человечество Компания Anthropic, занимающаяся развитием систем искусственного интеллекта (ИИ) ...

Искусственный интеллект переоценивает интеллект людейИскусственный интеллект переоценивает интеллект людей Ученые из НИУ ВШЭ обнаружили, что современные модели ИИ, включая ChatGPT и Claud ...

Путин раскрыл, в каких отраслях искусственный интеллект заменит людейПутин раскрыл, в каких отраслях искусственный интеллект заменит людей Фото freepik Президент России Владимир Путин выступил на заседании Госсовета, по ...

Искусственный интеллект быстро оставляет людей без работы: Microsoft уволит более 9000 человекИскусственный интеллект быстро оставляет людей без работы: Microsoft уволит более 9000 человек Microsoft сообщила, что компания уволит почти 4% своих сотрудников в ходе послед ...

Искусственный интеллект в образовании: почему все молчатИскусственный интеллект в образовании: почему все молчат В системе образования грядут большие изменения. Точнее, не изменения, а истинная ...

Может ли искусственный интеллект управлять космическим кораблемМожет ли искусственный интеллект управлять космическим кораблем? Кажется, в будущем космическими кораблями будет управлять искусственный интеллек ...

Опасная иллюзия: почему не стоит путать искусственный интеллект с чат-ботамиОпасная иллюзия: почему не стоит путать искусственный интеллект с чат-ботами Доступность и популярность чат-ботов сыграла злую шутку с восприятием ИИ: миллиа ...

Илон Маск заявил, что xAI может создать общий искусственный интеллект (AGI) уже в 2026Илон Маск заявил, что xAI может создать общий искусственный интеллект (AGI) уже в 2026 Илон Маск полон оптимизма относительно будущего своей компании, занимающейся иск ...

Искусственный интеллект может стать Человеком года. Он обогнал Папу РимскогоИскусственный интеллект может стать «Человеком года». Он обогнал Папу Римского По данным Polymarket, ИИ — главный претендент на звание «Человек года» по версии ...

Вот так искусственный интеллект может появиться в играх. Ubisoft показала проект Teammates, где на основе ИИ созданы виртуальные напарники для геймерВот так искусственный интеллект может появиться в играх. Ubisoft показала проект Teammates, где на основе ИИ созданы виртуальные напарники для геймера Пока что использование нейросетей в играх зачастую встречается геймерами негатив ...

ИИ угрожает миллионам рабочих мест уже сейчас. Новый индекс MIT говорит о том, что искусственный интеллект уже может заменить почти 12% всех рабочих ИИ угрожает миллионам рабочих мест уже сейчас. Новый индекс MIT говорит о том, что искусственный интеллект уже может заменить почти 12% всех рабочих США С рывком в развитии ИИ снова активизировались разговоры о том, что этот самый ИИ ...

Почему укус огненного муравья вызывает ожоги и может убитьПочему укус огненного муравья вызывает ожоги и может убить С красными огненными муравьями обычно сталкиваются туристы, отдыхающие в тропиче ...

Смертельный вариант: Автоэксперт рассказал, почему подушка безопасности может убить«Смертельный вариант»: Автоэксперт рассказал, почему подушка безопасности может убить Автоэксперт Андрей Осипов в интервью 360.ru заявил, что водителям и пассажирам н ...

Мать Костылевой заявила, что в академии Плющенко начались угрозы и шантажМать Костылевой заявила, что в академии Плющенко начались угрозы и шантаж Ирина Костылева, мать14-летней фигуристки Елены Костылевой, рассказала, почему о ...

Береги не жалея: почему слишком аккуратная езда может убить мотор вашего автоБереги не жалея: почему слишком аккуратная езда может убить мотор вашего авто Многие уверены: чтобы сохранить двигатель, нужно ездить плавно и неспешно, избег ...

Мать Костылевой: в академии Плющенко начались угрозы и шантаж в нашу сторонуМать Костылевой: в академии Плющенко начались угрозы и шантаж в нашу сторону Ирина Костылева, мать 14-летней фигуристки Елены Костылевой, рассказала о решени ...

Искусственный интеллект, транспорт, инвестицииИскусственный интеллект, транспорт, инвестиции Президент Токаев назвал приоритеты Казахстана в качестве председателя в органах ...

Искусственный интеллект в военной сфереИскусственный интеллект в военной сфере Искусственный интеллект способен решать разные задачи и поэтому может использова ...

Искусственный интеллект для Командования спецопераций СШАИскусственный интеллект для Командования спецопераций США Командование спецопераций США изучает возможность внедрения систем на основе иск ...

Искусственный интеллект завоевывает YouTubeИскусственный интеллект завоевывает YouTube Более 20% видео на YouTube сгенерированы искусственным интеллектом, сообщает газ ...

WWW.VSMI.DAY Поиск в новостях