Accuracy cliff
3/6‑битная смесь экономит площадь, но Taalas сама признаёт снижение качества первого поколения. GPTQ показывает: 3–4 bit возможны, но компромисс perplexity/bit-width не исчезает.[03][54]
Каждый ватт, выигранный у универсальности, превращается в новый риск: качество, yield, предел размера, срок жизни архитектуры и честность benchmark.
HC1 показывает верхнюю границу специализации. Именно поэтому его слабые места особенно полезны: они видны раньше, чем технология станет массовой.
3/6‑битная смесь экономит площадь, но Taalas сама признаёт снижение качества первого поколения. GPTQ показывает: 3–4 bit возможны, но компромисс perplexity/bit-width не исчезает.[03][54]
815 мм² — почти предел обычного reticle. Wafer-scale системы обходят дефекты redundancy и routing, но платят площадью и сложностью; публичных yield‑данных HC1 нет.[02][36]
8B × 3 бита — ровно 3.0 GB (2.79 GiB) чистых весов без overhead. Большая модель требует нескольких кристаллов, возвращая interconnect и движение данных.[53]
Два месяца от весов до карты — заявление Taalas, не независимая производственная гарантия. За это время сама модель может измениться.[03][04]
Контекст не замораживается. Длинные окна и многопользовательская нагрузка продолжают требовать динамической памяти и fabric bandwidth.[53]
Поздние маски дешевле полного redesign, но это не прошивка. Advanced-node NRE измеряется сотнями миллионов, а архитектурный прорыв способен быстро состарить вариант.[55][56]
| Ось | Что должно совпадать | Почему меняет результат |
|---|---|---|
| Модель | Один checkpoint и токенизатор | «8B» не означает одинаковый граф или качество. |
| Точность | Одинаковая квантизация или измеренная потеря качества | 3‑битный silicon нельзя напрямую сравнивать с FP16. |
| Контекст | Одинаковые input/output length | KV-cache и prefill меняют bottleneck. |
| Нагрузка | Single-user latency или batched throughput | Одна цифра tokens/s может означать разные режимы. |
| Мощность | Chip, card, server или rack — один уровень | 200 Вт карты нельзя сравнивать с полной системой. |
| Доступность | Публичный продукт, beta/API или лабораторное демо | Пиковый прототип ещё не доказывает TCO в продакшне. |
Model-specific silicon экономически побеждает только тогда, когда объём повторяющегося инференса успевает окупить NRE, маски, yield и риск устаревания.