一家名为Taalas的初创公司发布了其首款AI推理芯片HC1。该公司由多位前AMD高管创立，团队规模较小。其芯片采用了将AI模型直接固化在硅片上的独特技术方案，旨在实现极致的推理速度和能效。
据称，HC1芯片在运行特定的大语言模型时，能够达到极高的每秒Token生成速度，远超部分主流竞品。同时，其功耗被控制在较低水平。为实现这一性能，HC1借鉴了早期结构化ASIC的设计理念，通过调整少数掩模层来快速定制芯片，将模型权重等关键信息通过掩模ROM固化存储，从而大幅减少了数据搬运的开销，用灵活性换取速度和效率。
该芯片采用先进的半导体工艺制造，面积适中。单颗芯片即可支持特定规模的模型，多芯片方案则可支持更大参数量的模型。公司表示，这种设计能显著缩短芯片从设计到生产的周期。
创始团队在芯片设计领域拥有深厚背景，公司已获得可观的投资。对于HC1，业界看法存在分歧。支持者认为其低延迟特性有助于推动实时AI应用发展；而质疑者则指出，这种将模型硬编码进芯片的方式可能难以适应快速迭代的AI模型，存在过时风险。公司计划在未来推出迭代产品。
