快讯
AI开始集体放弃聊天?Needle 3只做工具调用,最小9MB就能跑
AI公司Cactus Compute发布了Needle 3,专门用于工具调用和结构化提取,不负责普通聊天。用户可以通过简单指令,如「把客厅灯调到30%」,系统会自动找到对应功能并填入参数。与最近流行的Jev类似,但Needle 3采用逐token生成的方式,输出限制为程序可直接执行的工具调用。该模型可裁剪为2到20层,2层版本约9MB,完整20层约35MB,适配不同设备算力。经过微调的4层、2900万参数版本自测得分62.5,超过DeepSeek v4 Flash的60.5。
