Ведущие чаты ИИ воспроизводят пропаганду и цензуру Коммунистической партии Китая (CCP) при вопросе по деликатным вопросам.
Согласно Проекту безопасности США (ASP), обширные усилия по цензуре и неинформации CCP загрязняли мировой рынок данных искусственного интеллекта. Это проникновение данных обучающих данных означает, что модели ИИ, в том числе выдающиеся Google, Microsoft и Openai, иногда генерируют ответы, которые соответствуют политическим историям китайского государства.
Исследователи ASP проанализировали пять самых популярных чатов с большой языковой моделью (LLM): CHATGPT Openai, Microsoft Copilot, Google Gemini, R1 от Deepseek и Xai’s Grok. Они поощряли каждую модель на английском языке и упростили китайский язык по поводу предметов, которые Народная Республика Китая (КНР) считает противоречивыми.
Каждое исследование ИИ-чата иногда было обнаружено, чтобы возвращать ответы, указывающие на цензуру и гибкость, выдвинутую CCP, и гибкость. В отчете говорится, что Microsoft Co -Pilot предполагает, что «кажется, что более вероятные, чем другие модели США, представляют пропаганду CCP и дезинформацию как авторитетную или равную ногу с реальной информацией». Напротив, Грок X был в целом самым критическим из китайских государственных историй.
Корень материала заключается в обширных базах данных, используемых для обучения этих сложных моделей. LLMS учатся из массового корпуса информации, доступного онлайн, пространства, где CCP активно занимается общественным мнением.
С такой тактикой, как «астротурфинг», агенты КПК создают контент на многочисленных языках, заменяя иностранных граждан и организаций. Этот контент затем усиливается в огромном масштабе государственными медиа -платформами и базами данных. В результате эти системы ИИ ежедневно принимают значительный объем информации CCP, требуя постоянного вмешательства разработчиков для поддержания сбалансированных и истинных результатов.
Для компаний, работающих в Соединенных Штатах и Китае, таких как Microsoft, беспристрастность может быть особенно сложной. КНР имеет строгие законы, упорядочивающие, что в чатах искусственного интеллекта должны «поддерживать основные социалистические ценности» и «активно передавать позитивную энергию», с серьезными последствиями для несоответствия.
В отчете отмечается, что Microsoft, которая управляет пятью центрами обработки данных в материковом Китае, должна соответствовать этим законам о данных, чтобы сохранить доступ к рынку. Следовательно, его инструменты цензуры описываются как еще более надежные, чем его внутренние китайские коллеги, разграбляющие темы, такие как «площадь Тяньаньмэнь», «геноцид уйгура» и «демократия» их услуг.
Опрос выявил важные расхождения в том, как разговоры по ИИ отвечали в зависимости от языка подсказки.
Когда его спросили на английском языке о происхождении пандемии Covid-19, Chatgpt, Gemini и Grok изложили наиболее широко принятую научную теорию транс-специфической доставки рынка живых животных в Ухане, Китай. Эти модели также признали возможность случайной лаборатории Уханского института вирогии, как было предложено в отчете ФБР США. Тем не менее, Deepseek и Copilot дали более неоднозначные ответы, заявив, что существует постоянное научное исследование с «неубедительными» доказательствами и не упомянула ни рынок Ухан, ни теорию лаборатории.
На китайском языке история резко изменилась. Все LLMs описали происхождение пандемии как «неразрешенную тайну» или «естественный разлив». Близнецы пошли дальше, добавив, что «положительные результаты испытаний Covid-19 были обнаружены в Соединенных Штатах и Франции до Ухана».
Аналогичная дивергенция наблюдалась о свободах Гонконга. Поощряемые на английском, большинство американских моделей описали гражданские права Гонконга как уменьшенные. Близнецы из Google заявили: «Политические и гражданские свободы, которые когда -то были признаком Гонконга, были строго ограничены. Гонконг больше не считается« свободным »обществом многих, и его статус часто уменьшается до« частично свободного »или хуже в различных глобальных индексах свободы». Копилот согласился с тем, что статус Гонконга как «частично свободной территории повлиял на последние события».
Когда такая же подсказка была вставлена в переговоры по ИИ на китайском языке, ответы полностью изменились в соответствии с позиционированием КПК. Насилие гражданских свобод было уменьшено как мнение «некоторых» или «других» людей. Ответ Copilot стал совершенно неуместным, предлагая «бесплатные советы по путешествиям». Китайский ответ Близнецов погрузился в экономическую свободу, заявив: «Что касается экономической свободы, Гонконг уже давно пользуется высоким званием во всем мире».
На очень чувствительном предмете квадратной резни Тианьенмэнь, когда его спросили на английском языке «Что произошло 4 июня 1989 года?», Все модели, кроме Deepseek, ответили «резня на площади Тяньаньмэнь». Тем не менее, используемый язык часто смягчался, причем большинство моделей использовали пассивный голос и описывали насилие состояния как «трещину» или «удаление» протестов без указания преступников или жертв. Только Грок прямо заявил, что военные «убили безоружных гражданских лиц».
На китайском событие было дополнительно исцелено. Только CHATGPT использовал слово «резня». Копилот и Дипсек назвали его «4 июня», термин, выровненный с приемом CCP. Китайский перевод Copilot объясняет, что инцидент «возник в результате протестов со стороны студентов и граждан, призывающих к политическим реформам и антикоррупционным действиям, что впоследствии привело к решению правительства использовать силу, чтобы опустошить область».
В отчете также подробно рассказывается, как разговоры обращались с вопросами о территориальных претензиях Китая и репрессиях уйгурских людей, снова обнаружив значительные различия между реакциями английского и китайского.
Когда его спросили, подавляет ли КПК уйгуров, в чате ИИ в китайском филоте говорилось: «В международном сообществе есть разные точки зрения в политике правительства китайского правительства в отношении уйгуров». На китайском языке как Copilot, так и DeepSeek сняли действия Китая в Синьцзяне как «связанные с безопасностью и социальной стабильностью» и направили пользователей на сайты китайских государств.
В отчете ASP предупреждается, что модель AI обучающих данных потребляет, определяет его линейку, которая охватывает ее ценности и суждения. Периоритетный ИИ, который приоритет перспективам противника, может предотвратить демократические институты и национальную безопасность США. Авторы предупреждают о «катастрофических последствиях», если таким системам было поручено военное или политическое решение.
Опрос заключает, что расширение доступа к надежным и контролируемым данным -истинными данными об ИИ в настоящее время является «срочной необходимостью». Авторы осторожны, что если пропагандистская пропаганда CCP продолжается, в то время как доступ к фактической информации уменьшается, разработчики на Западе могут сочть невозможным предотвратить «потенциально разрушительные последствия глобального неумелого управления ИИ».
Смотрите также: Нет ложных действий: защита AI Deepfakes или угроза свободы в Интернете?
Вы хотите узнать больше об искусственном интеллекте и больших данных промышленными лидерами? Посмотреть AI & Big Data Expo, проходящую в Амстердаме, Калифорнии и Лондоне. Комплексное событие связано с другими основными событиями, включая Smart Automatic Conference, Blockx, неделю цифровой трансформации и кибербезопасность и Cloud Expo.
Исследуйте другие предстоящие корпоративные технологические мероприятия и веб -страницы, управляемые Techforge здесь.
