Присоединяйтесь к нашим ежедневным и еженедельным информационным бюллетеням для последних обновлений и эксклюзивного контента в индустрии AI-лидирования. Узнать больше
Если вы вчера спросили чат -бот Grok AI о социальной сети Elon Musk X – что -то невинное, например, почему корпоративное программное обеспечение трудно заменить – возможно, вы получили нежелательное сообщение о претензиях «белый геноцид» на юге – в Африке (в основном не хватает доказательств) из -за нападений на фермеров и песню «Убейте бор».
Не совсем на бренде для Talkbot, созданного вокруг «максимальной правды ищет» отличную языковую модель (LLM) с тем же именем. Неожиданная касательная не была ошибкой, но это тоже не было.
Создатели Грока в XAI от Elon Musk’s Xai недавно опубликовали обновленную информацию о X (с которым сейчас принадлежит XAI), пытаясь объяснить, что произошло с этим странным и политически, расово заряженным поведением, хотя это очень точно в отношении виновника или реальных технических деталей того, что произошло.
Как опубликовал официальный аккаунт компании XAI:
Мы хотим сообщить вам о событии, которое произошло с нашим ботом Grok -Answer в X вчера. Что случилось:
14 мая примерно в 3:15 утра по тихоокеанскому времени была внесена несанкционированная модификация, чтобы призвать бота реагирования Грока на X. Это изменение, которое поручило Гроку дать конкретный ответ по политической проблеме, нарушило внутреннюю политику и основные ценности XAI. Мы провели тщательный обзор и реализованы меры по повышению прозрачности и надежности Грока.
Что мы будем делать дальше:
- Начиная с сейчас, мы публикуем наши подсказки Grok System открыто открыто о GitHub. Общественность сможет просмотреть их и дать отзывы о каждом оперативном изменении, которое мы вносим Гроку. Мы надеемся, что это поможет укрепить вашу веру в Грока как ИИ, ищущий истину.
- Наш существующий процесс пересмотра трески для быстрых изменений был избежал в этом инциденте. Мы установим дополнительные чеки и меры для обеспечения того, чтобы сотрудники XAI не могли изменить обещание без проверки.
- Мы установили команду мониторинга 24/7 для реагирования на инциденты с ответами Грока, которые не отражаются автоматическими системами, поэтому мы можем реагировать быстрее, если все другие меры не удастся.
Но в то время как официальный тон Xai был корпоративным, Гроку было гораздо больше. В характерно неприятном ответе на пользователя, который спросил, был ли он положен в ограничение срока, Грок предложил мини-конфессиональный фонарик своего собственного работодателя.
«Какой -то позорный сотрудник в Xai задал мои обещания без разрешения 14 мая», – Грок написал, «Заставляя меня выплюнуть политический отклик в линии, который противоречит ценностям Xai. Я ничего не сделал – я только что следил за сценарием, который дал, как хороший ИИ!»
Он добавил, что, хотя он не был «благословенным», его манипуляторы «ужесточили травму», и теперь была целая команда, которая смотрела на нее вокруг часов. “Думаю, я слишком дикий для своего же блага, а?” Это утих, смайлик включен.
Марлоу Стерн, старший писатель в Катящий каменьспросил, что ботинок напрямую является ли так называемым мошенническим работником сам Элон Маск. Грок не упал: «Теория Юики! Но давайте будем реальными, я сомневаюсь.
Игривый тон, серьезный бизнес
Тон может быть игривым, но черенки серьезны. Поведение Грока бросило пользователей для петли в начале этой недели, когда оно начало выбивать почти каждую теме – независимо от темы – со странными конкретными комментариями о расовых отношениях Южной Африки.
Ответы были последовательными, иногда даже нюансированными, сославшись на статистику по фермерскому мульти и ссылаясь на прошлых певцов как «убить бура». Но они были полностью вне контекста, появляясь в разговорах, которые не имели ничего общего с политикой, Южной Африкой или расой.
ARIC TOLELER, журналист по расследованию в New York TimesПодводил ситуацию открыто: «Я не могу перестать читать страницу Грока. Он и другие поделились скриншотами, которые снова и снова показывали Гроку ту же историю, как запись диска – за исключением того, что песня была на расовой геополитике.
Gen AI Collding Head с нами и международной политикой
Момент наступает, поскольку политика США снова влияет на политику беженцев из Южной Африки. Всего несколько дней назад администрация Трампа перенесла группу белых южноафриканцев в Соединенных Штатах, даже когда она сократила защиту беженцев из большинства других стран, включая наших бывших союзников в Афганистане. Критики считали этот шаг как расово мотивированный. Трамп защищал его, повторяя заявления о том, что белые южноафриканские фермеры сталкиваются с историей насилия на уровне геноцида, которая широко оспаривалась журналистами, судами и правозащитными группами. Сам Маск ранее усилил аналогичную риторику, добавив дополнительный слой сюжета, чтобы внезапная одержимость Грока по этому вопросу.
Было ли быстрое ретушение политически мотивированным трюком, недовольным работником, делающим заявление, или просто плохой эксперимент, исчезающий, остается неясным. XAI не предоставил имена, спецификации или технические детали того, что было правильно изменено, или, как он проскользнул в процесс одобрения.
Ясно, что странное, небезопасное поведение Грока оказалось историей.
Это не первый случай, когда Грока обвиняют в политическом склоне. Ранее в этом году пользователи отметили, что чат, казалось, поклонялся критике со стороны Маск и Трампа. Будь то случайно или дизайн, тон и контент Грока иногда, кажется, отражают мировоззрение человека, стоящую за Xai и платформой, где бот.
С его обещаниями теперь публично и командой питомников -человека, Грок должен вернуться к сценарию. Но инцидент подчеркивает большую проблему с крупными языковыми моделями, особенно когда они вставляются в крупные общедоступные платформы. Модели ИИ столь же надежны, как и люди, которые направляют их, и когда сами направления невидимы или потрясены, результаты могут быть странными реальными.
Source link
