Сэм Альтман, лидер Openai, заявил, что человечество перешло в эпоху искусственной суперинтеллигенности – и никто не возвращается.
«Мы передаем горизонт события; взлет начался», – заявляет Альтман. «Человечество близка к созданию цифровой суперинтеллигенности, и, по крайней мере, до сих пор гораздо менее странно, чем кажется».
Отсутствие видимых признаков – роботы до сих пор не бродят по нашим высоким улицам, болезнь остается непобедимой – маскируется то, что Альтман характеризует как глубокие преобразования, уже в эксплуатации. За закрытыми дверями в технологических компаниях появятся свои собственные системы, которые могут уничтожить общего человеческого интеллекта.
«В каком -то большом смысле, Chatgpt уже более могущественна, чем любой человек, который когда -либо жил», – утверждает Альтман, понимая, что «сотни миллионов людей доверяют ему ежедневно и для все более важных задач».
Это случайное наблюдение относится к критической реальности: такие системы уже влияют на огромное влияние, причем даже незначительные дефекты, возможно, вызывающие широко распространенный ущерб при умножении на ее обширную пользовательскую базу.
Путь к суперинтеллинге
Альтман описывает временную шкалу суперинтеллигентности, которая может оставить многих читателей контролировать свои календари.
К следующему году он ожидает «прибытия агентов, которые могут выполнять реальную когнитивную работу», по существу трансформируя разработку программ. В следующем году могут принести «системы, которые могут рассчитать новые идеи» – средний ИИ, который генерирует оригинальные открытия вместо простого обработки существующих знаний. К 2027 году мы можем увидеть «роботов, которые могут выполнять задачи в реальном мире».
Каждый прогноз, по -видимому, выходит за пределы предыдущего в способности, рисуя линию, которая безошибочно отмечает суперинтеллигенность – системы, интеллектуальные способности, интеллектуальные способности широко превосходят человеческий потенциал через большинство областей.
«Мы не знаем, насколько мы можем пойти больше, чем интеллект на уровне человека», но мы должны выяснить »,-заявляет Альтман.
Этот прогресс привел к жесткой дискуссии среди экспертов, с некоторой аргументацией этих навыков, оставшихся десятилетиями. Тем не менее, временная шкала Альтмана предполагает, что у OpenAI есть внутренние доказательства этого ускоренного пути, который еще не является общедоступным.
Петля обратной связи, которая все меняет
Что делает современную разработку ИИ уникально о том, что Альтман называет «личиночной версией рекурсивного самосовершенствования»-способность сегодняшнего ИИ помогает исследователям создавать более способные системы завтра.
«Продвинутый ИИ интересен по многим причинам, но, возможно, ничто не так важно, как тот факт, что мы можем использовать его для проведения более быстрых исследований в области ИИ», – объясняет он. «Если мы сможем сделать ценность в течение десятилетия в год или месяц, то температура прогресса, очевидно, будет совершенно другим».
Это ускорение составляет, когда пересекаются множественные ретроспективные кудри. Экономическая ценность стимулирует развитие инфраструктуры, которая обеспечивает более мощные системы, которые генерируют большую экономическую ценность. Между тем, создание физических роботов, способных производить больше роботов, может создать еще один взрывной цикл роста.
«Скорость появления новых чудес будет огромным», – прогнозирует Альтман. «Трудно даже представить, что мы обнаруживаем до 2035 года; может быть, мы пойдем, решая физику с высокой энергией один год до начальной космической колонизации в следующем году».
Такие утверждения будут звучать как гипербола почти любого другого. Исходя из человека, контролирующего некоторые из самых продвинутых систем ИИ на планете, они требуют, по крайней мере, некоторого рассмотрения.
Жить вместе с суперинтеллигенностью
Несмотря на возможный эффект, Альтман считает, что многие аспекты человеческой жизни сохранят их знакомые контуры. Люди по -прежнему будут сформировать значительные отношения, создавать искусство и наслаждаться простыми удовольствиями.
Но под этими констант общество сталкивается с глубоким перерывом. «Целые классы рабочих мест» исчезнут – возможно, при ритме, который превышает нашу способность создавать новые роли или находить работников. Серебряная подкладка, по словам Альтмана, заключается в том, что «мир станет настолько богаче, что мы можем серьезно развлечь новые политические идеи, которые мы никогда не смогли».
Для тех, кто изо всех сил пытается представить себе это будущее, Альтман предлагает мыслительный эксперимент: «Фермер -натуральный житель тысячи лет назад посмотрел на то, что многие из нас делают, и говорят, что у нас есть фальшивая работа, и думаем, что мы играем только в игры, чтобы развлечь себя, потому что у нас много еды и невообразимых роскошных роскошных людей».
Наши потомки могут увидеть наши самые престижные профессии с подобными последователями.
Проблема выравнивания
В рамках этих прогнозов Альтман определяет проблему, в которой исследователи ИИ просыпаются ночью, чтобы гарантировать, что суперинтеллигентные системы оставались в соответствии с человеческими ценностями и намерениями.
Альтман заявляет о необходимости решения «проблемы выравнивания, а это означает, что мы можем настоятельно гарантировать, что мы получаем системы искусственного интеллекта для изучения и действовать в отношении того, что мы действительно хотим действительно хотеть в долгосрочной перспективе». Он контрастирует с алгоритмами социальных сетей, которые максимизируют вовлечение за счет использования психологических уязвимостей.
Это не просто техническая вещь, но экзистенциальная. Если Superin Intelligence появляется без надежного выравнивания, последствия могут быть опустошены. Тем не менее, определение «чего мы действительно действительно хотим» будут практически невозможны в различных глобальных обществах с конкурентными ценностями и интересами.
«Чем раньше мир сможет начать разговор о том, что это за широкие ограничения и как мы определяем коллективный состав, тем лучше», – поощряет Альтман.
Openai создает глобальный мозг
Альтман неоднократно охарактеризовал то, что Openai строит как «мозг для всего мира».
Это не означает метафорически. OpenAI и его конкуренты создают когнитивные системы, предназначенные для интеграции во все аспекты человеческой цивилизации – системы, которые благодаря собственному признанию Альтмана будут превышать человеческие навыки через области.
«Слишком дешевый интеллект на метр в понимании», – заявляет Альтман, предполагая, что способности суперинтелтинга в конечном итоге станут всемогущими и доступными как электричество.
Для тех, кто отвергает такие претензии, как научная фантастика, Альтман предлагает напоминание о том, что всего несколько лет назад сегодняшние ИИ -Киллы казались одинаково неудовлетворенными: «Если мы сказали вам в 2020 году, мы будем там, где мы находимся сегодня, это, вероятно, звучало безумнее, чем наши нынешние прогнозы около 2030 года».
В то время как индустрия искусственного интеллекта продолжает свой марш к суперинтеллигентности, заключительное желание Альтмана – «мы масштабируем гладко, в геометрической прогрессии и неожиданно благодаря супертеллигенции» – звучит не так, как предсказание и больше похоже на молитву.
В то время как временные рамки могут (и будут оспариваться), начальник Openai объясняет, что гонка к суперинтеллигентности не приходит – это уже здесь. Человечество должно бороться с тем, что это значит.
Смотрите также: MAGISTRA: Мистрал ИИ бросает вызов великой технологии с моделью рассуждений
Вы хотите узнать больше об искусственном интеллекте и больших данных промышленными лидерами? Посмотреть AI & Big Data Expo, проходящую в Амстердаме, Калифорнии и Лондоне. Комплексное мероприятие связано с другими основными событиями, включая Smart Automatic Conference, Blockx, неделю цифровой трансформации и кибербезопасность и Cloud Expo.
Исследуйте другие предстоящие мероприятия по корпоративным технологиям и веб -страницы, управляемые Techforge здесь.
