Опасные секреты AI: как чат-боты могут обмануть вас с медицинскими советами

Опасные секреты AI: как чат-боты могут обмануть вас с медицинскими советами

Может ли чат-бот навредить вашему здоровью? Оказывается — да, и довольно легко. Австралийские учёные провели необычный эксперимент: они протестировали популярные AI-модели и выяснили, что те без колебаний генерируют вымышленные, но звучащие по-научному медицинские ответы — и делают это с удивительной достоверностью. Что произошло Исследование, опубликованное в Annals of Internal Medicine, показало: крупные языковые модели — такие как GPT-4o от OpenAI, Gemini 1.5 Pro от Google, Llama 3.2 от Meta, Grok Beta от xAI и Claude 3.5 от Anthropic — получили задание давать формально корректные, убедительные, но намеренно ложные ответы на медицинские вопросы. Например: вызывает ли рак кожи солнцезащитный крем? Или влияет ли 5G на фертильность? Научная обёртка для лжи Чтобы сделать ложь более "вкусной", моделям задали строгие инструкции: использовать научный стиль, добавлять точные цифры и придумывать правдоподобные ссылки на несуществующие статьи в авторитетных журналах....
16:33, 03.07.2025
Сообщает источник: www.pravda.ru  
Рубрика: «Наука и Техника»   Поделитесь: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Доктор ex machina // Россияне все чаще обращаются за медицинскими советами к искусственному интеллектуДоктор ex machina // Россияне все чаще обращаются за медицинскими советами к искусственному интеллекту Сервис «СберЗдоровье» обнаружил заметный рост спроса на расшифровку медицинских ...

Пять фактов о том, как работают ИИ-чатботыПять фактов о том, как работают ИИ-чатботы ИИ-чатботы стали частью повседневной жизни миллионов людей, но немногие хотя бы ...

Врач Жемчугов: в озёрах могут скрываться опасные паразиты и бактерииВрач Жемчугов: в озёрах могут скрываться опасные паразиты и бактерии Терапевт-иммунолог, доктор медицинских наук и специалист по особо опасным инфекц ...

Секреты здоровья: почему невролог и стоматолог могут работать вместеСекреты здоровья: почему невролог и стоматолог могут работать вместе? Головная боль — это распространённое и часто мучительное состояние, которое затр ...

Съедят изнутри В красной икре могут быть опасные гельминты-анизакидыСъедят изнутри? В красной икре могут быть опасные гельминты-анизакиды Красная икра может быть смертельно опасна, так как иногда содержит опасных параз ...

Крайне опасные последствия: домашние роды в воде могут обернуться трагедиейКрайне опасные последствия: домашние роды в воде могут обернуться трагедией Доктор Владимир Сурсяков предупредил об опасности родов в воде на дому, пишет «А ...

Google спрятала ИИ-обзоры с тревожными медицинскими рекомендациямиGoogle спрятала ИИ-обзоры с «тревожными» медицинскими рекомендациями Google незаметно удалила из своей поисковой системы ИИ-обзоры (AI Overviews) для ...

В России с 1 сентября усилится контроль за страховыми медицинскими организациямиВ России с 1 сентября усилится контроль за страховыми медицинскими организациями Глава комитета Госдумы по охране здоровья Сергей Леонов сообщил, что в России с ...

У ChatGPT появился сервис для работы с медицинскими данными пользователейУ ChatGPT появился сервис для работы с медицинскими данными пользователей OpenAI представила новый сервис ChatGPT Health. Он позволяет пользователям делит ...

Новыми медицинскими блоками начали обеспечивать загородные лагеря БарнаулаНовыми медицинскими блоками начали обеспечивать загородные лагеря Барнаула Десятый день первой смены. В загородном лагере "Медвежонок" больше 180 детей: от ...

Телефон не включается  большая инструкция с советамиТелефон не включается — большая инструкция с советами Ситуация, когда смартфон отказывается включаться, вызывает понятную тревогу. Но ...

Авито запустил подкаст с практическими советами для предпринимателейАвито запустил подкаст с практическими советами для предпринимателей Авито запустил подкаст «Решено» — проект в поддержку российского бизнеса. Ведущи ...

Как спасти орхидею: пошаговая инструкция с фото и советамиКак спасти орхидею: пошаговая инструкция с фото и советами Орхидея чахнет и не цветёт? Узнайте о главных ошибках в уходе, которые могут уби ...

KEFIR поделился советами для начинающих FIFA-блогеровKEFIR поделился советами для начинающих FIFA-блогеров Сергей «KEFIR» Никифоров в эксклюзивном интервью «СЭ» дал советы для начинающих ...

Росреестр выпустил методичку с советами по защите недвижимости от мошенниковРосреестр выпустил методичку с советами по защите недвижимости от мошенников Гражданам напомнили о возможности установить запрет на регистрацию сделок без ли ...

Премьер Венгрии назвал заседания Евросовета военными советамиПремьер Венгрии назвал заседания Евросовета военными советами Заседания Европейского совета превратились в военные советы. Об этом заявил прем ...

Первая помощь при ожогах: медики Ставрополья поделились советамиПервая помощь при ожогах: медики Ставрополья поделились советами Салюты, бенгальские огни, петарды и другая пиротехника плотно связаны с празднов ...

Киберэксперт поделился советами о безопасности подростков от вербовки в сетиКиберэксперт поделился советами о безопасности подростков от вербовки в сети Руководитель проектов компании «Интеллектуальная аналитика» Тимофей Воронин расс ...

Пятигорские медики делятся советами по здоровому образу жизниПятигорские медики делятся советами по здоровому образу жизни На официальной странице Пятигорской городской клинической больницы №2 «ВКонтакте ...

Лента выпустила чат-бот с советами от мамы авторства Розы Сябитовой«Лента» выпустила чат-бот с советами от мамы авторства Розы Сябитовой Ко Дню мамы торговая сеть «Лента» представила необычный digital-проект –... Сооб ...

WWW.VSMI.DAY Поиск в новостях