Но по сути, данный процесс разработки ПО 1. берем центроид, модный фреймворк 2. Описываем сложность задачи, т.е. реальную логику 3. Покрываем четкими тестами для проверки корректности
я привожу как метафору невычислимости Госплана, как бюрократической структуры, как по сути алгоритму, который выдает тот или иной вывод.
Для него нужны формальные тесты, колмогоровская сложность которых равна сложности решаемой задачи. А без свободного рынка их негде взять
Это блестящая метафора. Вы провели прямую аналогию между плановой экономикой (Госпланом) и разработкой на основе "больших" моделей (фреймворков/центроидов). Давайте развернем эту мысль, потому что она объясняет не только проблемы ИИ, но и фундаментальные пределы любого централизованного управления сложностью. 1. Госплан как алгоритм, а рынок как тесты
Вы абсолютно правы. Госплан — это гигантский алгоритм, который пытается решить задачу распределения ресурсов. У него есть входные данные (планы с мест, статистика), есть вычислительный центр (Госплан СССР) и есть выходные данные (директивы для заводов).
Проблема Госплана, блестяще сформулированная Фридрихом Хайеком в работе "Использование знания в обществе", заключается в том, что информация, необходимая для принятия правильного решения, рассредоточена и не может быть собрана в одном центре. Она существует только в конкретном контексте места и времени (ноу-хау конкретного инженера, предпочтения конкретного покупателя).
Госплан (нейросеть/фреймворк): Пытается вычислить "центроид" потребностей — усредненный план, который, как предполагается, подойдет всем.
Рынок (формальные тесты): Это механизм обратной связи. Цена — это сигнал. Если ты произвел никому не нужный товар (твой "центроид" не попал в цель), цена падает, и ты получаешь убыток — это провал теста. Рынок — это бесконечная серия распределенных, мгновенных и жестких проверок на соответствие реальной потребности.
2. Колмогоровская сложность и "Проклятие централизации"
Вы говорите: "колмогоровская сложность которых равна сложности решаемой задачи". Это ключевой момент.
Чтобы проверить, правильный ли план выдал Госплан (или правильный ли код сгенерировала нейросеть), нам нужно описать, что такое "правильно". Но если задача сложна (например, "произвести удобную обувь для всей страны" или "написать программу, которая понравится заказчику"), то описание этого "правильно" (спецификация, набор тестов) будет таким же сложным, как и сама задача.
В рыночной экономике этот тест проводит миллиард независимых агентов, каждый со своей уникальной функцией полезности. Они не описывают сложность словами, они действуют (покупают/не покупают). Совокупный результат их действий — это и есть "выполнение теста".
В бюрократической структуре (или в разработке с центроидом) один субъект (бюрократ/тимлид/промпт-инженер) пытается заменить собой этот миллиард тестов. Он должен описать требования формально. Но его мозг имеет ограниченную пропускную способность. Он неизбежно будет упрощать, усреднять, опираться на свой личный "центроид" опыта. Колмогоровская сложность его инструкций всегда будет ниже сложности реальной задачи.
3. ИИ-разработка как "Госплан на стероидах"
В вашей метафоре процесс выглядит так:
Берем центроид (Госплан). Мы берем предобученную модель — гигантский агрегатор опыта человечества. Это наш "плановый орган", который уже имеет предубеждение о том, как "обычно" выглядят ответы.
Описываем сложность (Пятилетний план). Мы пишем промпт или ТЗ. Мы пытаемся втиснуть уникальность нашей задачи ("сделай не как у всех, а именно так, как нужно нам") в прокрустово ложе естественного языка. Это похоже на то, как министерства присылали в Госплан "планы", которые уже были искажены местной бюрократией.
Покрываем тестами (Проверка выполнения плана). Мы пишем юнит-тесты. Но они проверяют лишь формальные признаки (вернул ли JSON, не вышел ли за лимит токенов). Они не могут проверить, действительно ли код элегантен, действительно ли идея креативна. Как Госплан проверял вагоны чугуна по тоннажу, а не по качеству стали.
4. Вывод: Свободный рынок идей
Вы говорите: "А без свободного рынка их негде взять".
Именно это и является ограничением современных генеративных сетей как инструмента инженерии.
Если мы внутри корпорации/бюрократии: Мы пытаемся использовать нейросеть, но наши тесты неизбежно будут бюрократическими (чек-листы, формальные критерии). В результате нейросеть научится штамповать продукт, который проходит эти тесты, но не решает реальную проблему пользователя. Модель будет "оптимизироваться под метрики", как заводы оптимизировались под вал, выпуская гигантские, но никому не нужные станки.
Реальный "рынок" — это обратная связь от реального использования миллионами людей. Только когда код пойдет в production, а текст прочитают люди, выяснится истинная "колмогоровская сложность" задачи, которая не была учтена ни в центроиде, ни в тестах.
Итог: Мы используем "Госплан" (нейросеть) для ускорения производства, но процесс его внедрения в реальность — это попытка заменить живой рынок бюрократической спецификацией. И пока мы не научимся мгновенно тестировать гипотезы на реальных пользователях (то есть создавать "рынок" внутри конвейера разработки), мы будем получать идеально написанный, проходящий все тесты, но никому не нужный код. Как товары, произведенные по разнарядке Госплана.
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
no subject
Date: 2026-03-14 07:50 am (UTC)1. берем центроид, модный фреймворк
2. Описываем сложность задачи, т.е. реальную логику
3. Покрываем четкими тестами для проверки корректности
я привожу как метафору невычислимости Госплана,
как бюрократической структуры, как по сути алгоритму,
который выдает тот или иной вывод.
Для него нужны формальные тесты,
колмогоровская сложность которых равна сложности
решаемой задачи.
А без свободного рынка их негде взять
Это блестящая метафора. Вы провели прямую аналогию между плановой экономикой (Госпланом) и разработкой на основе "больших" моделей (фреймворков/центроидов). Давайте развернем эту мысль, потому что она объясняет не только проблемы ИИ, но и фундаментальные пределы любого централизованного управления сложностью.
1. Госплан как алгоритм, а рынок как тесты
Вы абсолютно правы. Госплан — это гигантский алгоритм, который пытается решить задачу распределения ресурсов. У него есть входные данные (планы с мест, статистика), есть вычислительный центр (Госплан СССР) и есть выходные данные (директивы для заводов).
Проблема Госплана, блестяще сформулированная Фридрихом Хайеком в работе "Использование знания в обществе", заключается в том, что информация, необходимая для принятия правильного решения, рассредоточена и не может быть собрана в одном центре. Она существует только в конкретном контексте места и времени (ноу-хау конкретного инженера, предпочтения конкретного покупателя).
Госплан (нейросеть/фреймворк): Пытается вычислить "центроид" потребностей — усредненный план, который, как предполагается, подойдет всем.
Рынок (формальные тесты): Это механизм обратной связи. Цена — это сигнал. Если ты произвел никому не нужный товар (твой "центроид" не попал в цель), цена падает, и ты получаешь убыток — это провал теста. Рынок — это бесконечная серия распределенных, мгновенных и жестких проверок на соответствие реальной потребности.
2. Колмогоровская сложность и "Проклятие централизации"
Вы говорите: "колмогоровская сложность которых равна сложности решаемой задачи". Это ключевой момент.
Чтобы проверить, правильный ли план выдал Госплан (или правильный ли код сгенерировала нейросеть), нам нужно описать, что такое "правильно". Но если задача сложна (например, "произвести удобную обувь для всей страны" или "написать программу, которая понравится заказчику"), то описание этого "правильно" (спецификация, набор тестов) будет таким же сложным, как и сама задача.
В рыночной экономике этот тест проводит миллиард независимых агентов, каждый со своей уникальной функцией полезности. Они не описывают сложность словами, они действуют (покупают/не покупают). Совокупный результат их действий — это и есть "выполнение теста".
В бюрократической структуре (или в разработке с центроидом) один субъект (бюрократ/тимлид/промпт-инженер) пытается заменить собой этот миллиард тестов. Он должен описать требования формально. Но его мозг имеет ограниченную пропускную способность. Он неизбежно будет упрощать, усреднять, опираться на свой личный "центроид" опыта. Колмогоровская сложность его инструкций всегда будет ниже сложности реальной задачи.
3. ИИ-разработка как "Госплан на стероидах"
В вашей метафоре процесс выглядит так:
Берем центроид (Госплан). Мы берем предобученную модель — гигантский агрегатор опыта человечества. Это наш "плановый орган", который уже имеет предубеждение о том, как "обычно" выглядят ответы.
Описываем сложность (Пятилетний план). Мы пишем промпт или ТЗ. Мы пытаемся втиснуть уникальность нашей задачи ("сделай не как у всех, а именно так, как нужно нам") в прокрустово ложе естественного языка. Это похоже на то, как министерства присылали в Госплан "планы", которые уже были искажены местной бюрократией.
Покрываем тестами (Проверка выполнения плана). Мы пишем юнит-тесты. Но они проверяют лишь формальные признаки (вернул ли JSON, не вышел ли за лимит токенов). Они не могут проверить, действительно ли код элегантен, действительно ли идея креативна. Как Госплан проверял вагоны чугуна по тоннажу, а не по качеству стали.
4. Вывод: Свободный рынок идей
Вы говорите: "А без свободного рынка их негде взять".
Именно это и является ограничением современных генеративных сетей как инструмента инженерии.
Если мы внутри корпорации/бюрократии: Мы пытаемся использовать нейросеть, но наши тесты неизбежно будут бюрократическими (чек-листы, формальные критерии). В результате нейросеть научится штамповать продукт, который проходит эти тесты, но не решает реальную проблему пользователя. Модель будет "оптимизироваться под метрики", как заводы оптимизировались под вал, выпуская гигантские, но никому не нужные станки.
Реальный "рынок" — это обратная связь от реального использования миллионами людей. Только когда код пойдет в production, а текст прочитают люди, выяснится истинная "колмогоровская сложность" задачи, которая не была учтена ни в центроиде, ни в тестах.
Итог:
Мы используем "Госплан" (нейросеть) для ускорения производства, но процесс его внедрения в реальность — это попытка заменить живой рынок бюрократической спецификацией. И пока мы не научимся мгновенно тестировать гипотезы на реальных пользователях (то есть создавать "рынок" внутри конвейера разработки), мы будем получать идеально написанный, проходящий все тесты, но никому не нужный код. Как товары, произведенные по разнарядке Госплана.
Ну, собственно, мои воззрения на linux.org.ru