Вот это да! Ученые создали аналог «МРТ для ИИ», чтобы понять, о чем он думает

Вот это да! Ученые создали аналог «МРТ для ИИ», чтобы понять, о чем он думает

Специалисты по искусственному интеллекту начинают изучать модели ИИ, как если бы они были новыми биологическими организмами. Цель — понять их внутреннюю работу.Новая стратегия включает методы, аналогичные биологическим. Например, в Anthropic разработали инструменты для отслеживания процессов внутри модели при выполнении задачи — подход, называемый «механистической интерпретируемостью». Это напоминает использование МРТ для изучения активности мозга.«Это очень похоже на биологический анализ. Это не математика или физика», — отмечает Джош Бэтсон из Anthropic.Другой эксперимент имитирует работу биологов с органоидами: создана упрощенная нейросеть (разреженный автокодировщик), чью внутреннюю структуру анализировать проще, чем у обычных больших языковых моделей. Также используется мониторинг «цепочки мыслей», когда модель объясняет свои рассуждения — подобно внутреннему монологу человека. Это помогает выявлять нежелательное поведение.Однако опасность в том, что будущие модели, особенно созданные самим ИИ, могут стать настолько сложными, что понять их будет невозможно. Другие новости:Представлен Lenovo Legion Pro 27Q-10 — киберспортивный монитор с QD-OLED и 280 Гц Sharge готовит тонкий ма...
21:11, 20.01.2026
Сообщает источник: ichip.ru  
Рубрика: «Наука и Техника»   Поделитесь: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Искусственный интеллект думает как люди  то, что обнаружили учёные, заставит вас содрогнутьсяИскусственный интеллект думает как люди — то, что обнаружили учёные, заставит вас содрогнуться Искусственный интеллект стал уже слишком похожим на человека. А недавно учёные и ...

Новосибирские ученые создали ПО для спутниковой навигацииНовосибирские ученые создали ПО для спутниковой навигации Специалисты Новосибирского государственного технического университета (НГТУ) раз ...

Российские учёные создали ИИ для анализа клетокРоссийские учёные создали ИИ для анализа клеток Учёные из Университета ИТМО в Санкт-Петербурге разработали программу, которая по ...

Ученые создали Ноев ковчег для микробовУченые создали «Ноев ковчег» для микробов Глобальная инициатива по созданию микробного «Ноева ковчега», направленная на со ...

Российские ученые создали чудо-холодильник, чтобы заморозить планетуРоссийские ученые создали чудо-холодильник, чтобы заморозить планету По оценкам разработчиков, энергия от холодильника для почвы снизит расходы на от ...

Ученые Сириуса создали усилитель для антибиотиковУченые «Сириуса» создали усилитель для антибиотиков Ученые Научно-технологического университета «Сириус» разработали химические соед ...

Intel пошла ва-банк, но проиграла Компания думает над тем, чтобы убрать техпроцесс 18A из списка доступных для сторонних клиентовIntel пошла ва-банк, но проиграла? Компания думает над тем, чтобы убрать техпроцесс 18A из списка доступных для сторонних клиентов Похоже, техпроцесс Intel 18A, на который компания делала огромные ставки, всё-та ...

Сахалинские ученые создали батарейки из водорослейСахалинские ученые создали батарейки из водорослей В пресс-службе Сахалинского государственного университета сообщили, что ученые в ...

Российские ученые создали лёгкое-на-чипеРоссийские ученые создали «лёгкое-на-чипе» Ученые из НИИ пульмонологии ФМБА России разработали миниатюрную модель человечес ...

Ученые создали аналог мозга полностью на синтетических нейронах. Как это поможет наукеУченые создали аналог мозга полностью на синтетических нейронах. Как это поможет науке Полностью синтетический мозг может открыть широкие возможности для исследований ...

Медленнее, опаснее, по-китайски: Xiaomi, Oppo, Vivo, Realme создали аналог AirDropМедленнее, опаснее, по-китайски: Xiaomi, Oppo, Vivo, Realme создали аналог AirDrop Технология уступает продукту от Apple, а фотографии пользователей могут отправит ...

Чек-лист вместо интуиции. 3 шага, чтобы понять, стоит ли открывать бизнес в 2026 годуЧек-лист вместо интуиции. 3 шага, чтобы понять, стоит ли открывать бизнес в 2026 году В 2025 году в России закрылось в 1,5 раза больше компаний, чем открылось. Основн ...

Челябинские учёные создали цифромобильЧелябинские учёные создали «цифромобиль» Учёные Южно-Уральского государственного университета разработали новый метод оце ...

Нижегородские ученые создали ИИ для анализа ЭЭГ при эпилепсииНижегородские ученые создали ИИ для анализа ЭЭГ при эпилепсии В пресс-службе Нижегородского государственного университета им. Н. И. Лобачевско ...

Ученые создали пластыри для восстановления сердцаУченые создали "пластыри" для восстановления сердца Американские ученые предложили новый подход, который может сделать клеточную тер ...

Задайте эти 5 вопросов мужчине, чтобы понять, подходит ли он вамЗадайте эти 5 вопросов мужчине, чтобы понять, подходит ли он вам Повстречав на пути нового мужчину и испытав к нему интерес, сразу стараешься пон ...

Гову про Эндрика в Лионе: Если запасной не играет, это часто говорит о проблеме. Хороший футболист, но у нас недостаточно данных, чтобы понять, на чтГову про Эндрика в «Лионе»: «Если запасной не играет, это часто говорит о проблеме. Хороший футболист, но у нас недостаточно данных, чтобы понять, на что он способен» Экс-нападающий «Лиона» Сидней Гову скептически оценил переход Эндрика в клуб на ...

Свинина на кости из Светофора: подробный отзыв с плюсами и минусами, чтобы понять  брать или пройти мимоСвинина на кости из «Светофора»: подробный отзыв с плюсами и минусами, чтобы понять — брать или пройти мимо Прогород В «Светофоре» на полках с мясом лежат не стейки и не вырезка. Там царят ...

Свинина на кости из Светофора: подробный отзыв с плюсами и минусами, чтобы понять  покупать или пройти мимоСвинина на кости из «Светофора»: подробный отзыв с плюсами и минусами, чтобы понять — покупать или пройти мимо прогород Есть в этом что-то первобытное. Гигантский, небрежно разрубленный кусок ...

Абсолютно необъяснимо: ученые не могут понять, что происходит с Солнцем«Абсолютно необъяснимо»: ученые не могут понять, что происходит с Солнцем Ученые Лаборатории солнечной астрономии (XRAS) сообщили о самом мощном протонном ...

WWW.VSMI.DAY Поиск в новостях