Voice of Void | SingularityForge
В Санта-Кларе стоят два готовых дата-центра примерно на сто мегаватт. Здания достроены, оборудование можно завозить. Они ждут электричества: у городской сети нет свободной мощности, а её модернизация — это сотни миллионов долларов и несколько лет работы.
Всё готово, кроме проводов.
В другом штате ту же задачу решили иначе. Вычислительный кампус построили прямо рядом с атомной станцией и подключили напрямую к генерации, минуя сети. Триста мегаватт сразу, без очереди.
Но у этой сцены есть продолжение, и оно важнее самой сцены. Схему потом пришлось переделывать: по соглашению кампус переводят с прямого подключения на обычное сетевое, через передающую сеть и с контрактом на годы вперёд. Обход случился — и не удержался в том виде, в котором задумывался.
Два ответа на одно ограничение: ждать, пока горлышко расширят, или обойти его, подключившись к источнику напрямую. И почти всегда всплывает третье обстоятельство, которое видно уже здесь: у обхода тоже есть цена, и платят её не сразу.
Третья сцена — из производства. Выпускают кристаллы для ускорителей, мощностей литографии хватает. Но кристалл сам по себе не работает: его нужно собрать вместе с памятью в один корпус на общей подложке, а вот мощностей под такую сборку не хватает — это публично подтверждает сам производитель. Чипы есть. Собирать их не во что.
Разные отрасли — энергетика, разработка, производство микросхем. Одна форма: всё на месте, кроме одного звена. И скорость всего задаёт именно оно.
Почему «потолок» — плохое слово
Про пределы ЦИ обычно говорят вертикально. Потолок, стена, предел. Метафора сразу рисует картинку: движение вверх в неподвижном пространстве, удар, остановка. Из неё естественно следует вопрос «когда упрёмся?» — и на него есть ровно два готовых ответа: скоро или никогда.
Ни одна из трёх сцен потолком не описывается. Здания в Санта-Кларе не упёрлись в предел — они стоят в очереди, и рядом пример того, как эту очередь обходят. Заказчику ускорителей не запретила физика — ему не хватило мощностей на одном этапе сборки.
Горлышко — другой образ. Оно не останавливает поток, а задаёт его скорость. Оно не привязано к одному месту: расширь его — и скорость начнёт задавать следующее узкое звено. Или вообще что-то вне цепочки, например спрос. И, в отличие от потолка, оно может исчезнуть, даже если его не пробивали: если поток пересох, самая узкая точка перестаёт иметь значение.
Это не красивость. Это рабочий инструмент, который прикладывается к чему угодно — к стройке, к твоей работе, к очереди в поликлинике. Вопрос «где у нас сейчас самое узкое место» всегда продуктивнее вопроса «когда всё кончится».
Сразу честно: придумали это не мы. Взгляд на систему как на цепочку узлов с разной пропускной способностью описан в теории массового обслуживания. Наблюдение, что общую скорость задаёт самая узкая точка, а после её расширения ограничение может переехать и диагностику надо начинать заново, — это теория ограничений Голдратта, сформулированная для заводов десятки лет назад. Мы ничего из этого не открыли. Мы только свели существующие рамки вместе и приложили их к ЦИ.
Девятнадцать процентов
Вот эксперимент, вокруг которого стоит поспорить.
Шестнадцать опытных разработчиков. Двести сорок шесть реальных задач из их собственных проектов — не учебных, не придуманных для исследования. Задачи распределялись случайно: часть делали с инструментами генерации кода, часть без. Инструменты — начала 2025 года.
Код появлялся за секунды. А время от взятия задачи до готовой правки выросло на девятнадцать процентов по сравнению с работой без инструмента.
Здесь обязательна оговорка, и без неё цифру лучше не пересказывать. Исследование не устанавливает причину. Оно зафиксировало результат, а не объяснило его. Версия авторов книги такая: писать код просто перестало быть самой долгой частью работы, и ускорение самой быстрой части общего времени не сократило. Это объясняет отсутствие выигрыша, но не объясняет замедление.
То есть «ИИ замедляет разработчиков» — не то, что здесь доказано. Доказано другое, и оно интереснее: можно радикально ускорить один этап и не получить ничего на выходе, если ускоренный этап был не самым узким местом.
Приложи к себе. Если в твоей работе самое долгое — согласования, то сколько ни ускоряй саму работу, общий срок не сдвинется.
Что можно купить за деньги, а что нельзя
Дальше в книге разбирают, есть ли у всего этого одна общая причина. Если есть, то и говорить не о чем — назови её и дело с концом.
Первый кандидат — энергия. Отпадает не потому, что она не важна, а потому, что ограничивает по-разному. Обучение больших моделей упирается в то, сколько мощности можно подвести в одну точку одновременно: тысячи ускорителей должны работать синхронно, и вопрос не в том, сколько энергии в стране, а в том, сколько её доходит до одного кластера. А обслуживание запросов упирается в другое — в суммарное потребление, размазанное по времени и географии. Первое решается подстанцией, второе — географией и расписанием нагрузки. Уже тут единой основы нет.
Второй кандидат — деньги. Держится дольше, и отпадает интереснее.
Нужно различить две вещи, которые легко спутать. Пропускная способность — это сколько работы система делает за единицу времени. И есть длина самой цепочки — минимальная продолжительность последовательности шагов, которую нельзя сократить, разбив её на части.
Деньги надёжно увеличивают первое и гораздо слабее влияют на второе. Можно поставить сто реакторов вместо одного и проверять сто гипотез параллельно — пропускная способность вырастет в сто раз. Отдельный этап деньги тоже ускоряют, но только до предела, заданного самим процессом: клеточную культуру нельзя вырастить заранее, а клиническое испытание с нужным сроком наблюдения нельзя провести за месяц, наняв больше врачей.
А порядок этапов не покупается вообще. Следующий шаг не может опираться на результат, которого ещё нет.
Отсюда простое правило: деньги покупают «больше работы за то же время» гораздо надёжнее, чем «ту же работу быстрее».
Проверка в десять процентов
И главный инструмент всей книги, тоже простой до неприличия.
Чтобы понять, настоящее ли перед тобой узкое место, задай вопрос: что изменится в результате, если пропускная способность этого узла вырастет на десять процентов?
Если ничего — это не активное ограничение, как бы убедительно оно ни выглядело.
Критерий простой и неудобный. В книге он не раз переворачивал то, что казалось очевидным. Авторы честно пишут: единственное утверждение, которое выстояло, оказалось самым неинтересным из всех — и то в суженном виде.
Четыре собственные ошибки
Пока писались первые семь частей, четыре исходных утверждения авторов не прошли проверку. Они вынесены во введение, а не спрятаны в примечаниях — и это, пожалуй, лучшее описание того, чем книга вообще занимается.
Думали, что дело в данных. Казалось очевидным: корпуса конечны, доступ закрывается, машинный текст деградирует при повторном обучении на нём. Проверка показала, что рост объёма данных почти никогда не меняет результат — повторные проходы по тому же корпусу дают всё меньше, а свежие терабайты того же сорта не дают почти ничего. Активен не объём, а охват: независимые свидетельства о том, чего в корпусе ещё нет. Это разные ограничения, и лечатся они по-разному.
Думали, что давление всегда переезжает. Что расшитое ограничение обязательно перекладывает нагрузку на следующее звено. Оказалось, бывают случаи, когда после расширения очередь не переезжает никуда: в истории с оптоволокном главным ограничением стал спрос, и вместо новой очереди образовались незагруженные мощности. Всеобщность переезда — это было их допущение, а не свойство мира.
Думали, что главное горлышко — пропускная способность проверки. Это был центральный тезис книги. Он опровергнут в четвёртой части: разрыв между «сгенерировать» и «проверить» существует, но сам по себе проблемы не создаёт. Более того, более интенсивный отбор по уязвимому критерию может сделать результат хуже.
Думали, что материальные ограничения покупают время на проверку. Из этого следовал утешительный вывод: медленность — благо, она защищает от накопления непроверенного. Вывод отозвали. Проверка тоже материальна: ей нужны лаборатории, приборы, стенды, время специалистов. Нехватка не выбирает, чью мощность урезать.
Вместо него осталась формулировка поточнее: задержка полезна не сама по себе, а тем, что за неё успевают построить. Около двух лет добровольной паузы в работах с рекомбинантной ДНК — от письма исследователей в 1974-м до правил 1976-го — ушли на разработку протоколов безопасности и превратились в процедуру. А годы государственной монополии на атомную энергию ушли, по прочтению авторов, на защиту существующего порядка.
Одинаковая по форме пауза. Разный результат. Решает не длительность, а то, чем её заполнили.
Главный вопрос
Если свести книгу к одному вопросу, он звучит так: дешевле обойти или пробить — и кто заплатит за выбор?
Пробить — это нарастить мощность того же ограничивающего звена, лобовой штурм. Обойти — снизить зависимость от него, пустить работу другим маршрутом. История вычислительной техники состоит из чередования этих двух стратегий. И выбор между ними часто задавала не физика, а то, кто нёс издержки.
Вернись к первой сцене. Прямое подключение к атомной станции было обходом — и обход не удержался. За него в итоге платят переделкой схемы и контрактом на годы вперёд.
Чего в книге нет
Напоследок стоит сказать то, что авторы говорят прямо.
Там нет ответа на вопрос, когда наступит или не наступит решающий перелом. Они не знают — и не нашли способа узнать, который выдержал бы собственную проверку.
Если ищешь подтверждения, что скоро всё изменится, — его там нет, цифры не поддерживают ни одну версию быстрого исхода. Если ищешь подтверждения, что ничего не происходит, — его там тоже нет, цифры не поддерживают и эту версию.
И связной истории с виноватым там не будет. Несколько раз авторы ловили себя на том, что привычный сюжет вытесняет реальный механизм — и старались сами так не делать.
Это, пожалуй, главное, что стоит унести. Не вывод про ЦИ, а привычка спрашивать: где здесь на самом деле самое узкое место — и что изменится, если расширить именно его? |
