Тёмный секрет ИИ: обучение на некачественных данных!

от

ИИ-модели становятся все более мощными, но данные, на которых они обучаются, становятся хуже, говорит основатель Intuition Билли Людтке. 🧠💩

📈

"Покупай, когда на улицах кровь", — сказал барон Ротшильд. Но не уточнил, чья. Заходи к нам, разбираться в хитросплетениях фондового рынка.

Читать Уоррена Баффетта

Все сейчас сосредоточены на инфраструктуре ИИ — графических процессорах, энергии, центрах обработки данных. Недооценивают ли люди важность уровня доверия в ИИ? Почему это важно?

Билли Людтке: 100%. Люди определенно недооценивают это — и это имеет несколько причин.

Во-первых, мы вступаем в то, что я называю эрой «мусор на входе, мусор на выходе». Искусственный интеллект хорош настолько, насколько хороши данные, которые он потребляет. Но эти данные — особенно из открытого веба — в значительной степени загрязнены. Они не чистые. Они не отражают человеческие намерения. Большая часть их происходит из геймифицированного поведения в сети: лайки, отзывы, хаки вовлечения — все отфильтровано через алгоритмы, оптимизированные для привлечения внимания. 🕹️

Итак, когда ИИ прочесывает интернет, он видит не целостную картину того, кто мы есть. Он видит людей, играющих на платформе. Я не веду себя в Twitter так же, как в реальной жизни. Никто из нас так не делает. Мы оптимизируемся под алгоритм, а не выражаем искренние мысли. 🤡

Это тоже рекурсивно. Платформы обучают нас, а мы возвращаем в систему ещё более искажённое поведение. Это создаёт петлю обратной связи — спираль — которая ещё больше искажает восприятие человечества искусственным интеллектом. Мы не учим его тому, что думаем; мы учим его тому, что, по нашему мнению, получит лайки. 👍

Итак, как мы можем это исправить? Как мы можем построить системы, которые ставят правду и ценность выше вовлечённости?

BL: Нам нужно изменить стимулы. Эти системы должны служить людям — не институтам, не акционерам, не рекламодателям. Это означает создание нового уровня для интернета: базовых элементов идентификации и репутации. Именно этим мы занимаемся в Intuition. 🛠️

Нам нужна проверяемая атрибуция: кто что сказал, когда и в каком контексте. И нам нужна переносимая, децентрализованная репутация, которая помогает определить, насколько мы можем доверять данному источнику данных – не на основании ощущения, а на основании фактического контекстного послужного списка. 🧭

Reddit — прекрасный пример. Это один из крупнейших источников данных для обучения моделей. Но если пользователь саркастически говорит: «Just k* yourself», это может быть извлечено и появиться в рекомендации модели кому-то, запрашивающему медицинский совет. 🩺

Это ужасно — и это происходит, когда у моделей нет контекста, атрибуции или взвешенной репутации. Нам нужно знать: Достоверен ли этот человек в медицине? Имеет ли он хорошую репутацию в финансах? Является ли это надежным источником или просто еще одним случайным комментарием? ❓

CN: Когда вы говорите об атрибуции и репутации, эти данные необходимо где-то хранить. Как вы думаете об этом с точки зрения инфраструктуры — особенно в отношении таких проблем, как авторское право и компенсация?

BL: Именно это мы решаем в Intuition. Как только у вас есть проверяемые примитивы атрибуции, вы знаете, кто создал какие данные. Это позволяет токенизировать право собственности на знания — и с этим, вознаграждение. 💰

Таким образом, вместо того, чтобы ваши данные хранились на серверах Google или в API OpenAI, они хранятся в децентрализованном графе знаний. Каждый владеет тем, чем он делится. Когда ваши данные используются или применяются в результатах работы ИИ, вы получаете долю от создаваемой им ценности. 🌱

Это имеет значение, потому что сейчас мы цифровые крепостные. Мы тратим свои самые ценные ресурсы — время, внимание и креативность — на создание данных, на которых кто-то другой зарабатывает. YouTube ценен не потому, что он размещает видео; он ценен, потому что люди его курируют. Без лайков, комментариев или подписок YouTube бесполезен. 🧼

Итак, мы хотим мир, где каждый может зарабатывать на ценности, которую он создаёт – даже если вы не влиятельный человек или экстраверт. Если вы последовательно рано находите новых артистов, например, ваш вкус имеет ценность. Вы должны иметь возможность создать репутацию вокруг этого и монетизировать её. 🎨

CN: Но даже если мы добьёмся прозрачности, эти модели по-прежнему очень сложно интерпретировать. Даже сама OpenAI не может полностью объяснить, как её модели принимают решения. Что произойдёт тогда?

BL: Отличное замечание. Мы не можем полностью интерпретировать поведение модели — они просто слишком сложны. Но контролировать мы можем обучающие данные. Это наш рычаг. 🔧

Я приведу вам пример: я слышал об исследовательской работе, где один ИИ был одержим совами, а другой отлично решал математические задачи. Они тренировались вместе только над задачами, связанными с математикой. Но в конце математический ИИ тоже начал любить сов — просто поглощая закономерности от другого. 🦉

Невероятно, насколько неосознанными и тонкими могут быть эти закономерности. Поэтому единственная реальная защита – это осознанность. Нам нужно тщательно подходить к тому, какие данные мы предоставляем этим моделям. Нам нужно, в каком-то смысле, «исцелить себя», чтобы проявляться в сети более подлинно и конструктивно. Потому что ИИ всегда будет отражать ценности и искажения своих создателей. 🧘‍♀️

CN: Давайте поговорим о бизнесе. OpenAI сжигает наличные. Их инфраструктура чрезвычайно дорога. Как децентрализованная система, такая как Intuition, может конкурировать — финансово и технически?

BL: У нас есть два основных преимущества: компонуемость и координация. 🤝

Децентрализованные экосистемы – особенно в крипто – невероятно хороши в координации. У нас есть глобальные, распределенные команды, работающие над различными компонентами одной и той же общей проблемы. Вместо одной компании, сжигающей миллиарды, сражаясь со всем миром, у нас есть сотни согласованных участников, создающих совместимые инструменты. 🧩

Это как мозаика. Одна команда работает над репутацией агентов, другая – над децентрализованным хранением, третья – над примитивами идентификации – и мы можем сшить это вместе. 🧵

Это суперспособность.

Что насчет затрат на инфраструктуру? Запуск больших моделей чрезвычайно дорог. Видите ли вы мир, где более мелкие модели запускаются локально?

BL: Да, 100%. Я на самом деле думаю, что именно к этому мы и движемся — к множеству небольших моделей, работающих локально, соединенных, как нейроны в распределенном рое. 🧠

Вместо одного большого монолитного центра обработки данных у вас есть миллиарды потребительских устройств, предоставляющих вычислительные мощности. Если мы сможем их координировать — а это то, в чём преуспевает crypto — это станет превосходящей архитектурой. 🌐

Именно поэтому мы также разрабатываем слои репутации агентов. Запросы могут направляться нужному специализированному агенту для выполнения задачи. Вам не нужна одна огромная модель, чтобы делать всё. Вам просто нужна умная система маршрутизации задач — как API-слой для миллионов агентов. 🧩

CN: Что насчет детерминированности? LLMs плохо справляются с задачами, такими как математика, где требуются точные ответы. Можем ли мы объединить детерминированный код с ИИ?

BL: Именно этого я и хочу. Нам нужно вернуть детерминированность в цикл. 🔁

Мы начали с символьного рассуждения – полностью детерминированного – а затем резко перешли к глубокому обучению, которое недетерминировано. Это дало нам взрыв, который мы наблюдаем сейчас. Но будущее – нейросимволическое – объединяющее лучшее из обоих подходов. 🧠🧮

Пусть ИИ обрабатывает нечёткую логику. Но также позвольте ему запускать детерминированные модули — скрипты, функции, логические движки — там, где требуется точность. Подумайте: «Кто из моих друзей любит этот ресторан?» Это должно быть на 100% детерминировано. 🍽️

CN: Отдаляясь: мы видели, как компании интегрируют ИИ во все свои операции. Но результаты были неоднозначными. Как вы думаете, текущее поколение LLM действительно повышает производительность?

BL: Абсолютно. Сингулярность уже наступила — она просто распределена неравномерно. 🌍

Если вы не используете ИИ в своем рабочем процессе, особенно для кода или контента, вы работаете в разы медленнее, чем другие. Технология реальна, и прирост эффективности огромен. Нарушение уже произошло. Люди просто еще полностью этого не осознали. 🚀

CN: Последний вопрос. Многие говорят, что это пузырь. Венчурный капитал иссякает. OpenAI сжигает деньги. Nvidia финансирует собственных клиентов. Чем это закончится?

BL: Да, пузырь есть – но технология реальна. Каждый пузырь лопается, но после остаются основополагающие технологии. Искусственный интеллект станет одной из них. Деньги, потраченные впустую – все эти оберточные приложения без реальных инноваций – сейчас вымываются. Но команды, работающие над глубокой инфраструктурой? Они выживут. 💼

На самом деле, это может пойти по одному из двух путей: мы получим мягкую коррекцию и вернемся к реальности, но прогресс продолжится. Или, прирост производительности будет настолько огромным, что ИИ станет дефляционной силой для экономики. ВВП может вырасти в 10 или 100 раз по производственным мощностям. Если это произойдет, траты того стоили — мы выйдем на новый уровень как общество. 🚀

В любом случае, я настроен оптимистично. Будет хаос и потеря рабочих мест, да — но также и потенциал для изобильного мира после дефицита, если мы построим правильное основание. 🌱

Смотрите также

2025-10-30 23:52