Исследователи и энтузиасты были очарованы проблемой обратного инженерного сложного поведения, которое вытекает из простых правил в клеточных автоматах на протяжении десятилетий. Традиционно, эта область подходит к снизу вверх-определяя местные правила и соблюдая закономерности, возникающие из них. Но что, если бы мы могли перевернуть этот процесс? Вместо ручного проектирования правил мы могли бы разработать полностью дифференцируемую систему, которая изучает локальные правила, необходимые для создания данной сложной схемы при сохранении дискретного характера сотовых автоматов. Этот подход открывает новые возможности для автоматизации обнаружения правил структурированным и масштабируемым способом.
Предыдущая работа изучала правила перехода обучения с использованием не дифференцируемых методов, доказывая, что этот метод может развивать локальные правила для конкретных вычислительных задач. Кроме того, исследования изучали способы сделать одномерные сотовые автоматы дифференцируемые, что позволяет методам оптимизации на основе градиентов для обучения правилам. Опираясь на эти фонды, позволяет нам разрабатывать системы, которые автоматически обнаруживают правила, которые генерируют желаемые закономерности, преодолевая разрыв между автоматами вручную и вычислимыми вычислительными моделями.
Исследователи Google представили дифференцируемые логические сотовые автоматы (Difflogic ca), который применяет дифференцируемые логические ворота к сотовым автоматам. Этот метод успешно повторяет правила игры жизни Конвея и генерирует шаблоны посредством изученной дискретной динамики. Этот подход объединяет автоматы нейронных клеток (NCA), которые могут изучать произвольное поведение, но не имеют дискретных ограничений состояния, с дифференцируемыми логическими сетями Gate, которые обеспечивают комбинаторную логическую обнаружение, но не были проверены в рецидивирующих настройках. Эта интеграция прокладывает путь для обучаемых, локальных и дискретных вычислений, потенциально продвигающихся программируемых веществ. Исследование исследует, может ли дифференцируемая логика CA изучать и генерировать сложные закономерности, сродни традиционным NCA.
NCA объединяет классические сотовые автоматы с глубоким обучением, обеспечивая самоорганизацию посредством обучаемых правил обновления. В отличие от традиционных методов, NCA использует градиентный спуск для обнаружения динамических взаимодействий, сохраняя местность и параллелизм. 2D -сетка ячеек развивается посредством восприятия (с использованием фильтров Sobel) и этапов обновления (через нейронные сети). Дифференцируемые логические сети затвора (DLGNS) расширяют это заменив нейроны логическими воротами, позволяя изучать дискретные операции с помощью непрерывных релаксаций. Difflogic CA дополнительно интегрирует эти концепции, используя ячейки бинарного состояния с логическими механизмами восприятия и обновлений на основе логического затвора, образуя адаптируемую вычислительную систему, похожую на архитектуры программируемых веществ, такие как CAM-8.
Игра в жизни Конвея, сотовой автомат, введенный Джоном Конвером в 1970 году, следует простым правилам, регулирующим взаимодействие сотовых клеток для создания сложного поведения. Модель была обучена с использованием Difflogic CA, чтобы воспроизвести эти правила, используя сеть с 16 схемами восприятия и 23 уровнями обновления. Функция потерь минимизировала квадратные различия между прогнозируемыми и фактическими состояниями. Обучение на всех 512 Возможных сетках 3 × 3 включено точное обучение правилам, которое эффективно масштабировалось до более крупных сетей. Обученная схема воспроизводила классическую игру в жизни, демонстрируя ее способность обобщать, демонстрировать устойчивость к разлому и самовосстановление без явно разработанных механизмов надежности.
В заключение, исследование вводит Difflogic CA, архитектуру NCA, в которой используются дискретные состояния клеток и рецидивирующие бинарные схемы. Интеграция глубоководных логических сетей позволяет дифференцируемому обучению логических ворот. Модель повторяет игру Conway «Жизнь» и генерирует шаблоны, используя обученную дискретную динамику. В отличие от традиционных NCA, которые полагаются на дорогостоящие операции матрицы, этот подход повышает интерпретацию и эффективность. Будущие улучшения могут включать иерархические архитектуры и LSTM-подобные механизмы стробирования. Это исследование предполагает, что интеграция дифференцируемых логических ворот с NCAS может продвигать программируемую вещество, что делает вычисления более эффективными и адаптируемыми к созданию сложных шаблонов.
Проверить технические детали. Весь кредит на это исследование направлено на исследователей этого проекта. Кроме того, не стесняйтесь следить за нами Twitter И не забудьте присоединиться к нашему 80K+ ML SubredditПолем
🚨 Познакомьтесь с «Партаном»: разговорная структура ИИ, на первом месте LLM, предназначенную для того, чтобы предоставить разработчикам контроль и точность, которые им нужны, по сравнению с их агентами по обслуживанию клиентов AI, используя поведенческие руководящие принципы и надзор за время выполнения. 🔧 🎛 Он работает с использованием простого в использовании CLI 📟 и нативных SDK клиента в Python и TypeScript 📦.
Сана Хасан, стажер консалтинга в Marktechpost и студент с двойной степенью в IIT Madras, увлечена применением технологий и искусственного интеллекта для решения реальных проблем. С большим интересом к решению практических проблем, он привносит новую перспективу для пересечения ИИ и реальных решений.
Парган: строите надежные агенты, обращенные к клиенту AI с LLMS 💬 ✅ (повышен)
