ИИ -галлуцинации становятся более опасными, поскольку модели становятся все более и больше полагаются на поверхностную информацию и принимают критические решения.
У всех нас есть знающий друг, который не может признать, когда они ничего не знают, или прибегают к советам, основанным на том, что они читают в Интернете. ИИ галлюцинации похожи на этого друга, но этот может поручить ваш план лечения рака.
Здесь Themis AI входит в изображение. Этот MIT -Spinout сумел достичь чего -то, что кажется прямым в теории, но на самом деле довольно сложно, обучая систем ИИ сказать: «Я не уверен в этом».
Системы ИИ обычно показывают переполнение. Платформа THIS выступает в качестве контроля реальности для ИИ, помогая моделям распознавать, когда они приключны, а не уверенность.
Основанная в 2021 году профессором MIT Даниэлой Рус вместе с бывшими коллегами по исследованиям Александром Анини и Элахех Ахмади, Themis AI разработала платформу, которая может интегрироваться почти с каждой системой ИИ, чтобы мерцать моменты неопределенности, прежде чем они приведут к ошибкам.
Capsa в основном обучает ИИ для обнаружения шаблонов о том, как она обрабатывает информацию, которая может указывать на то, что она запутана, смещена или работает с неполными данными, которые могут привести к галлюцинациям.
С момента запуска Themis утверждает, что он помог телекоммуникационным компаниям избежать планирования дорогостоящих сетей, помощи нефтяным и газовым компаниям в понимании сложных сейсмических данных, и опубликовали исследования по созданию разговорных ботинок, которые не уверены, что составляет проблемы.
Большинство людей по -прежнему не знают, как часто системы ИИ просто принимают свои лучшие догадки. Поскольку эти системы занимаются все более критическими задачами, эти предположения могут иметь серьезные последствия. Программное обеспечение Themis AI добавляет слой самоуважения, который отсутствовал.
Путешествие Themis к обращению с AI -оболочкой
Поездка в Themis AI началась много лет назад в лаборатории MIT профессора Руса, где команда исследовала фундаментальную проблему: как вы знаете их собственные ограничения?
В 2018 году Toyota финансировала свои исследования в области надежного искусственного интеллекта для самостоятельного вождения, где ошибки могут быть фатальными. Ренки невероятно высоки, когда автономные транспортные средства должны точно определить пешеходов и другие опасности дороги.
Их продвижение произошло, когда они разработали алгоритм, который мог бы установить расовые и сексуальные предубеждения в системах распознавания лиц. Вместо того, чтобы просто выявлять проблему, их система фактически исправила ее с помощью переоборудования данных обучения – по существу, обучение ИИ исправлять свои собственные предрассудки.
К 2021 году они доказали, как этот подход может революционизировать открытие наркотиков. Системы ИИ могут оценивать потенциальные лекарства, но – серьезно – флаг, когда их прогнозы были основаны на надежных доказательствах против образованных предположений или полных галлюцинаций. Фармацевтическая промышленность признала потенциальную экономию денег и времени на фокусировку исключительно на кандидатах на наркотики, которые ИИ был самоуверенным.
Еще одно преимущество технологии – для устройств с ограниченной компьютерной мощностью. Устройства Edge используют более мелкие модели, которые не могут соответствовать точности огромных моделей, работающих на сервере, но с технологиями Themis эти устройства будут гораздо более способны выполнять большинство задач на месте и будут просить о помощи у крупных серверов, когда они столкнутся с чем -то сложным.
ИИ обладает ужасным потенциалом для улучшения нашей жизни, но этот потенциал сопровождается реальными рисками. Поскольку системы ИИ более глубоко интегрированы в критическую инфраструктуру и принятие решений, способность признавать неопределенность, приводящая к галлюцинациям, может быть их самым человеческим и наиболее ценным – качеством. Themis AI гарантирует, что они изучают этот важный навык.
Смотрите также: Диабетическое введение: IBM и Roche используют ИИ для прогнозирования уровня сахара в крови
Вы хотите узнать больше об искусственном интеллекте и больших данных промышленными лидерами? Посмотреть AI & Big Data Expo, проходящую в Амстердаме, Калифорнии и Лондоне. Комплексное событие связано с другими основными событиями, включая Smart Automatic Conference, Blockx, неделю цифровой трансформации и кибербезопасность и Cloud Expo.
Исследуйте другие предстоящие корпоративные технологические мероприятия и веб -страницы, управляемые Techforge здесь.
