Что вы представляете, когда слышите слово Thinking machine? Я представляю это как высокоинтеллектуальную систему, которая логически мыслит почти как человек! Но является ли LLM Thinking Machine?
На этот вопрос тяжело ответить, но лично я считаю, что нет. Система, которая изначально создана для того, чтобы перевести текст с одного языка на другой, у которой вдруг обнаружилось бездумное подражание человеческому мышлению, не может быть TM.
И это была подводка к глобальным изменениям в AION!
Я посчитал, что работаю над проектом уже около полугода. За это время я провёл более 100 экспериментов с архитектурой, обучал ИИ более 20 часов и… Казалось мне, что результаты ничтожны. Почти вся прошлая цепочка, о которой я с энтузиазмом рассказывал в прошлых статьях, оказалась фундаментально неверной. Такую огромную систему невероятно сложно поддерживать. Я задался вопросом: «Если цепочка не работает, то есть ли смысл продолжать улучшать изначально, возможно, неверный путь?» Причём к тому моменту я сделал огромное количество работы, но так и не дошёл до когнитивного ядра… Сделал временный стенд, оставив только пару модулей системы, и цепочка теперь выглядит так:
LS → CoS ⇄ ES → LS
Пришлось изменить когнитивное ядро, а также способ сохранения опыта.
CoS теперь не отдельный думатель!
Раньше у меня не было представления, как именно сделать когнитивное пространство рабочим: сделать как ядро с одной нейросетью или, может, сделать очень сложный адаптирующийся механизм… А может, ну его нафиг, я уже очень устал, как-нибудь ИИ справится и синтезирует мне готовую систему? Но нет. На практике, если не осознать работу конкретного модуля, никакой ИИ не поможет решить такую сложную задачу за тебя. Нужно иметь определённые навыки…
Возникла идея, которая на бумаге могла работать. Представляю вам мой очередной новый механизм CL (Cell Logical)! Вдохновением для такого механизма стала обычная биология. Из чего состоят все живые организмы? Верно, из клеток! Но что будет, если вынуть одну клетку, будет ли она живым цельным организмом?
Одна клетка — хорошо, а тысячи — лучше!
Копая всё глубже в человеческое сознание, я, возможно, понял, чего мне не хватало. И это было на поверхности. Я смотрел на когнитив как на логические операции, но стоило мне посмотреть в сторону простых нейронов… Как вы знаете, нейроны в наших мозгах соединены с другими, передавая информацию между собой, но они устроены сложнее, чем мы о них говорим. Вот вы знали, что некоторые нейроны могут хранить информацию об образах человека? Но ладно, не отходим от основной темы. Клетки в моей системе обдумывают ответ прежде, чем сказать или передать его другим нейронам. Что-то наподобие CoT в LLM, но работающее через числа и быстрее :) Во время «обдумывания» клетка может передавать промежуточные вычисления другим, которые в свою очередь могут решить, использовать эти вычисления или нет. Таким образом можно «обдумывать» задачу с разных сторон, имея более хорошие результаты, чем если бы у нас была одна большая клетка или вовсе один большой думатель.
На тестируемых задачах такая система показала очень хорошие, по сравнению с другими экспериментами, результаты! А самое интересное — это работает. ES сохраняет и выгружает опыт в клетки, а они в свою очередь пользуются им, улучшая свои рассуждения. Конечно, на текущем этапе не могу сказать, что клетка увидела свою ошибку и прямо сразу изменилось что-то в поведении: требуется больше однозначных ошибок, чтобы на текущем этапе клетка могла сформулировать опыт.
В перспективе такая система может быть невероятно полезной для длинных исследований (для которых я и создаю данный проект), которые просто физически из-за ограниченного контекстного окна LLM не сможет поддерживать. AION в свою очередь, используя прошлый опыт работы с проектом (который, возможно, является и знанием, требуется больше экспериментов), сможет улучшать и параллельно свои логические рассуждения, работать над проектом более эффективно, удерживая невероятно большие объёмы данных. Причём один из интересных механизмов — сокращение ходов. После работы клетки консолидируют опыт, чтобы сокращать размышления и выводить более обобщённые и рабочие правила, способные быть использованными на больших задачах. Грубо говоря, в первый раз система работает над математической задачей, которая решается за 100 шагов. После консолидации шаги сокращаются до 60, далее уже в третий раз до 20 и далее до минимального шага, который может решить задачу. Конечно, всё это нуждается в тестировании, может, что-то из того, о чём я говорю, станет архитектурно невозможным, но я буду стараться делать всё возможное, чтобы это стало реальностью. Но главное, если на последующих моих экспериментах я докажу, что моя система хотя бы реально перенимает опыт в работе, это будет невероятно сильный результат. Машины, которые учатся в процессе, — не удивительно ли?
Итак, хочу представить вам первые результаты моей работы! Они, конечно, скромные, но главное, что прогресс идёт!
Раньше у меня была клетка, которая работала на GRU, но стоило использовать свою архитектуру… результаты невероятны!
- Сколько нужно учиться заранее. Старая нейросеть: 10 минут обучения. Новая клетка: 0, она учится прямо на ваших трёх примерах.
- Сколько занимает задача. Старая нейросеть: миллисекунды. Новая клетка: от 6 до 200 миллисекунд (числовым формулам нужно около 20 секунд на правило).
Помимо этого, на некоторых задачах доказал, что ES работоспособна:
И самое, наверное, для вас интересное: а как сейчас общается система?
— Какого цвета звук дождя?
Звук дождя — это просто сказочный и розовый.
— Можно ли устать от отдыха?
Да, конечно. Но я предпочитаю активный отдых. Планирую сходить на пляжи и насладиться природой.
Разговор с памятью:
— Меня зовут Даниил.
— Я живу в Гродно и люблю кофе.
— Как меня зовут?
Привет, тебя зовут Даниил.
— А где я живу?
Ты живёшь в Гродно и любишь кофе.
Оценка качества данных ответов составляет ~2.5/5
Думаю, на такой ноте можно завершить статью. Надеюсь, что к концу октября–ноября я смогу показать вам более качественные результаты, чем сейчас…