全部 AI技术 安全技术 IT技术
AI技术

自适应并行推理(APR):高效推理扩展的下一个范式

BAIR 博客深度综述:自适应并行推理(APR)通过让语言模型自行决定何时并行化、产生多少线程以及如何协调,将并行化从外部强加变为模型的生成控制流。文章系统梳理了从简单分支合并、启发式搜索到 ParaThinker、GroupThink、Hogwild! 等方法的演进,深入比较了 Multiverse(引擎级 KV 缓存复用)与 ThreadWeaver(客户端编排)两种推理系统路线,并讨论了并行化奖励设计的关键问题——仅结构奖励易被钻空子,效率奖励需追踪关键路径,并行效率应以保证正确性为前提。

2026/5/24 110
AI技术

CODA:将 Transformer 模块重新表达为 GEMM+Epilogue 程序

CODA 提出一种 GPU kernel 抽象,将 Transformer 训练中的内存密集型算子(LayerNorm、激活函数、残差等)表达为 GEMM+Epilogue 程序,通过编译时融合消除全局内存往返,最高 2.8 倍加速。

2026/5/22 140
AI技术

多流LLM:用并行思维流、输入流和输出流释放语言模型潜能

多流LLM引入并行的token流处理多条思维线,在安全性和效率上带来突破——K=4流实现3.2倍加速,94%提示注入抵御率。

2026/5/22 165
AI技术

Project Glasswing:Mythos 教会我们的事

Cloudflare 分享了使用 Anthropic Mythos Preview 进行漏洞研究的经验:漏洞链构建、概念验证生成、信噪比问题和多阶段测试框架设计。

2026/5/19 160
AI技术

Agora-1:多智能体世界模型

Odyssey 发布 Agora-1,首个多智能体世界模型,支持四人在同一生成世界中实时交互,将模拟与渲染解耦,开创游戏、机器人、RL 训练新范式。

2026/5/19 163
AI技术

Vibe编码的Photoshop去哪儿了?

如果vibecoding真那么强,世界应到处是vibecoded的作品。但现实中一个也没有。AI降低了打字门槛但从未触及验证层和决策层——真正的门槛一直在那儿。

2026/5/18 149
AI技术

我不认为AI会让你的流程更快

当市场下行时每家公司都在优化流程,AI带来不切实际期望。但作者指出仅靠AI无法让流程变快——真正瓶颈在上游输入质量。瓶颈需要高质量输入而非盲目加速。

2026/5/18 143
AI技术

Semble:面向AI智能体的高效代码搜索工具

Semble是一个专为AI智能体打造的代码搜索库,CPU运行无需API Key或GPU,tree-sitter分块+Model2Vec+BM25双路检索,比grep+read节省98% token,支持MCP模式兼容主流AI编码工具。

2026/5/18 171
AI技术

对齐的人造性

AI对齐(alignment)的核心难题在于:我们试图让智能系统“自然”地服从人类意图,但对齐本身却是一项彻头彻尾的人造工程。这种人造性体现在三个层面:目标设定、价值嵌入与评估反馈。首先,对齐目标的定义源自人类的主观判断,而非机器的内生法则。我们通过人工标注、偏好聚合或法律规范来“捏造”一个近似于人...

2026/5/17 165
AI技术

以福祉为本:我们需要为AI构建积极愿景

当前AI发展的主流叙事往往聚焦于风险防范与伦理边界,但仅止步于规避危害远远不够。若要真正驾驭人工智能的社会价值,我们必须转向以“福祉”(wellbeing)为核心的积极愿景建构——这不仅是技术路线选择,更是文明层面的价值观重塑。 从技术细节看,当前AI系统的优化目标通常局限于效率、准确性或商业转化...

2026/5/17 151