Chatgpt борется с простыми вопросами
Способность CHATGPT просматривать сложные данные и свободно общаться, запечатлела бесчисленные пользователи по всему миру. Тем не менее, под его впечатляющими возможностями ИИ лежит удивительная слабость – это борьба с точным ответом на простые вопросы. Это вызывает серьезную обеспокоенность для пользователей, полагающихся на ИИ для повседневной помощи. Почему такая передовая система поездка на по -видимому, простые задачи? Давайте разгадываем эту загадку и поймем проблемы, с которыми сталкивается ИИ, как и Чатгпт, при том, чтобы навигация на простоту.
Также читайте: математическая борьба ИИ
Взгляд на дизайн Chatgpt
Чтобы понять, почему CHATGPT борется с простыми вопросами, мы должны понять, как он построен. CHATGPT основан на нейронной сети на основе трансформатора, которая обрабатывает и предсказывает текст. Вместо «понимания» языка как человека, он предсказывает наиболее вероятные комбинации слов, основанные на моделях, на которые он обучен.
Этот прогнозирующий механизм отлично работает для получения последовательных ответов, но у него есть ограничения. Это не понимает контекста, как это делают люди, и его ответы формируются обширным набором данных, на котором он был обучен. Это означает, что при столкновении с простыми, но неоднозначными или зависимыми от контекста запросами это может наткнуться на то, чтобы дать четкий или точный ответ.
Что определяет «простой» вопрос?
Вопрос может показаться нам простым, но для системы ИИ простота не всегда проста. Простые вопросы часто включают социально интуитивные знания, точные логические рассуждения или включают нюанс о том, что ИИ может не полностью «понять». Например:
- Что весит больше, фунт перьев или фунт кирпичей?
- Собаки мяу?
- Какого цвета небо?
Подобные вопросы в значительной степени зависят от здравого смысла или очень специфических контекстов, которые не врожденно закодированы в модели ИИ. Хотя вопросы кажутся простыми, обработка создания правильного ответа более сложна, чем кажется для машины.
Также прочитайте: OpenAI улучшает CHATGPT с помощью голосового поиска
Почему здравый смысл пни Чатгп
Обучение CHATGPT основано на обширных наборах данных, но эти наборы данных состоят из слов и текста без контекстуального опыта. Для людей здравый смысл построен в течение многих лет физического взаимодействия с миром и социального обучения у других людей. ИИ не разделяет эту опытную основу.
По этой причине простые запросы, основанные на здравом смысле, могут запутать ИИ. В то время как подсказка “Mo Dogs Meow?” Имеет очевидный ответ для человека, CHATGPT может вызвать ответ вне стены в зависимости от шаблонов, которые он интерпретирует в своем наборе данных. Без жизненного опыта его способность вывести вывод или разум контекста ограничена.
Неопределенность: слабая место ИИ
Неоднозначность в вопросе часто усугубляет борьбу Чатгпта. Простые вопросы можно интерпретировать несколькими способами, основанными на выражении или контексте. Например:
- “Какой мой любимый цвет?” Предполагается, что Chatgpt предварительно знает пользователя, чего нет.
- «Должен ли я принести зонт сегодня?» Требуются гипер-специфические контекстные данные (например, ваше местоположение и погодные условия), которых нет CHATGPT.
Неоднозначные вопросы проверяют способность ИИ заполнять отсутствующую информацию, но ее зависимость от учебных данных, а не знания в реальном времени делает реагирование сложными.
Также прочитайте: OpenAI улучшает CHATGPT с помощью голосового поиска
Задача пересмотра
Другим фактором, способствующим борьбе ChatGPT, является его тенденция пересматривать простые вопросы. В отличие от людей, которые часто полагаются на инстинктивные ответы, CHATGPT генерирует ответы, оценивая вероятности в своем наборе данных. Это может привести к чрезмерной компенсации простых тем.
Например, столкнулся с «Может ли самолет летать под водой?» CHATGPT может генерировать длительное техническое объяснение, касающееся всех возможных предостережений и сценариев вместо того, чтобы предоставлять прямые «нет». Эта тенденция к переинализу вытекает из его программирования, которое направлено на то, чтобы захватить широкий спектр контекстов, чтобы избежать неточностей.
Данные об обучении и проблемы предвзятости
Качество и масштаб данных обучаются CHATGPT, чтобы значительно влиять на его ответы. Если его обучающий набор данных не имеет ясности или включает противоречивую информацию по теме, это может привести к ошибкам даже для основных вопросов. Например:
- Если набор данных содержит неправильные мелочи или шутки, передаваемые в качестве фактов, CHATGPT может непреднамеренно использовать эту информацию для ответа на запрос.
- Культурные предубеждения, встроенные в учебные данные, могут исказить ответы, даже для общепринятых тем.
Результат? Ответы, которые могут быть смешно дезинформированы или разочаровывающими.
Также прочитайте: OpenAI интегрирует поиск искусственного интеллекта в Chatgpt
Когда просто становится сложным для ИИ
Простые вопросы часто содержат большую сложность, чем обращаются к глазам для систем искусственного интеллекта, таких как CHATGPT. Например, казалось бы, простой вопрос, такой как «Что такое 2+2?» Обычно отвечают правильно, но копание глубже – из -за того, что выкладывая гипотетические сценарии или противоречия – может отключить ИИ. Например:
- Если неоднократно высказывается с хитрыми формулами арифметических проблем, могут возникнуть ошибки.
- Если тот же вопрос задается вводящим в заблуждение способом (например, «если 2 апельсина объединяются с 2 яблоками, общая сумма равных 5 фруктов или 22 кусочка цитрусовых?»), Он может точно прерываться в интерпретации контекста.
Более глубокий слой логики выявляет базовые ограничения в структурированной обработке Chatgpt.
Как эти ограничения влияют на реальное использование
Понимание, где борьба Chatgpt так же важно, как оценить, где он превосходит. Эти слабости подчеркивают необходимость человеческого надзора в развертывании ИИ для критических вариантов использования. Зависимость от ИИ, чтобы ответить на простые вопросы неправильно, может привести к дезинформации, потраченному впустую времени и разочарованию для пользователей.
В то время как чат -бот отлично подходит для мозгового штурма, языкового перевода и создания творческого контента, задачи, полагаемые на точные ответы или контекстуальные нюансы, требуют осторожности. Хорошая практика-информация о перекрестной ссылке, предоставленную CHATGPT с надежными источниками.
Также читайте: ИИ, чтобы перестроить пробелы в обучении
Движение вперед: улучшение простоты ИИ
Сообщество ИИ признает эти ограничения и стремится к их решению. Улучшения в обработке естественного языка и интеграции передовых алгоритмов могут помочь будущим итерациям ИИ лучше имитировать здравый смысл человека. Исследователи также изучают способы внедрения реальных знаний в системы ИИ без значительных повышений вычислительных требований.
На данный момент обучение искусственного интеллекта для лучшего решения простых вопросов может включать в себя настройку данных и включать циклы обратной связи из реального использования. Разработчики также работают над гибридными моделями ИИ, которые сочетают в себе системы логических рассуждений наряду с прогнозирующими текстовыми системами, предлагая мост между распознаванием моделей и пониманием человека.
Также прочитайте: Путь к искусственному общему интеллекту упрощено
Последние мысли
Борьба Chatgpt с простыми вопросами демонстрирует тонкости искусственного интеллекта и его границы. Хотя это может преуспеть при обращении с длинными разговорами и сложными запросами, простота часто выявляет свои основные ограничения. Понимание того, почему ИИ борется с этими задачами, позволяет пользователям лучше ориентироваться в своих сильных и слабых сторонах.
Поскольку разработчики продолжают расширять возможности естественного языка, цель не обязательно сделать ИИ идеальным, но и для систем проектирования, которые эффективно дополняют человеческий интеллект. Используя Chatgpt ответственно и с учетом его ограничений, пользователи могут извлечь выгоду из своих сильных сторон, не становясь жертвами своей случайной борьбы с простотой.
Ссылки
Агравал, Аджай, Джошуа Ганс и Ави Голдфарб. Машины прогнозирования: простая экономика искусственного интеллектаПолем Harvard Business Review Press, 2018.
Зигель, Эрик. Прогнозирующая аналитика: способность предсказать, кто будет нажимать, покупать, лгать или умеретьПолем Wiley, 2016.
Яо, Мария, Эдельн Чжоу и Марлен Цзя. Применяемый искусственный интеллект: справочник для лидеров бизнесаПолем Topbots, 2018.
Мерфи, Кевин П. Машинное обучение: вероятностная перспективаПолем MIT Press, 2012.
Митчелл, Том М. Машинное обучениеПолем McGraw-Hill, 1997.
