Сфокусируйтесь на данных, а не на моделях

Я часто бываю на offline и online конференциях, посвящённых использованию AI. Там полно крутых людей, интересных проектов и технических решений.

Типичная конференция проходит по одному и тому же шаблону:

• выбирают какую-либо классификацию AI-агентов;
• погружаются до конкретного уровня — до которого дошёл автор конкретной конференции.

Как архитектор, я всегда стараюсь думать данными. Изучать устройство современных агентских систем полезно и интересно. Но меня удивляет отсутствие должного внимания к самому важному — данным.

Мы уже проходили это с промптами

Несколько лет назад умение правильно разговаривать с моделью реально давало большое преимущество. Распространялись огромные гайды по prompt engineering, специальные конструкции, chain of thought, few-shot примеры, роли, подробные system prompts. Но модель стала умнее, и значительная часть того, что раньше приходилось делать снаружи, переехало внутрь неё.

Думаю, с сегодняшними AI-harness произойдёт примерно то же самое. Не в буквальном смысле: инфраструктура, инструменты и интеграции никуда не денутся. Но человеку всё меньше придётся вручную объяснять умной модели, в каком порядке ей вызвать пять инструментов, когда завести подагента, что положить в память и как проверить собственный результат.

Через несколько поколений моделей большая часть сегодняшних красивых агентских архитектур, скорее всего, будет выглядеть примерно так же, как сейчас выглядят промпты из 2024 года.

Но о данных почти не говорят. Не о корпоративных данных, не очередной векторной базе документации, а о собственных данных человека.

Лучшие мысли приходят в неожиданный момент: на прогулке, на мотоцикле, в душе, в зале, перед сном. Я призываю вас сохранять свои данные любым удобным вам способом. Неважно, будет это Notion, Obsidian, Telegram-канал, папка с Markdown-файлами или один бесконечный документ. Важно, чтобы данные оставались у вас и их можно было забрать в понятном формате. Это единственный компонент будущей персональной AI-системы, который нельзя скачать, скопировать у другого человека или купить задним числом. И единственный, ценность которого только увеличивается со временем.

А LLM модели — это инструмент, которому потенциально можно передать не только документы, календарь и список задач, но и значительную часть собственного контекста.

Моя реализация

На арендованном сервере крутится Hermes с Telegram-gateway на моделях от OpenCode Go, расшифровывает голосовые сообщения через Groq Whisper Large и записывает заметки в собственную систему.

Что это меняет

Постепенно становятся видны повторяющиеся паттерны: к каким идеям возвращаюсь, какие ошибки воспроизвожу, какие проекты считаю важными только на словах, а к каким действительно возвращаюсь спустя месяцы. Решения стали видны мне со стороны. Но главное — накопился большой контекст для будущих ассистентов.

Что в итоге

Модель без вашего контекста — как хороший врач без анамнеза. Она может быть очень умной, но вам помочь не сможет.

Обвязка вокруг моделей устареет через пару поколений. Архив собственных мыслей — нет.

Один файл на компьютере считается.