OpenAI与Broadcom联合发布首款定制推理芯片Jalapeño,专为LLM推理设计,标志着OpenAI在自研硬件方向迈出关键一步。
Rhombus v1.0 发布 Rhombus 1.0 版本现已正式发布! 安装: https://rhombus-lang.org/download.html 了解更多: https://rhombus-lang.org/ 为什么会有这门新语言? https://rhombus-lang.org/
艾尔登法环的低技术AI FROMSOFT 在整个《魂系》系列中以多样且极具挑战性的 NPC 遭遇战闻名,但其 AI 决策的实现方式却出乎意料地 低技术 。
提示注入的理论基础:角色混淆(Prompt Injection as Role Confusion) 本文深入探讨了提示注入(Prompt Injection, PI)现象的根本原因,提出核心论点:提示注入的本质是大型语言模型(LLM)在感知和应用其内部“角色”(Roles)时的结构性缺陷,即“角色混淆”(Role Confusion)。作者认为,角色标签是LLM在无结构文本流中恢复人类认知结构
GLM-5.2 本地部署指南 如需完整的文档索引,请参阅 llms.txt。本页面也提供 Markdown 版本。 运行 Z.ai 的全新 GLM-5.2 模型于本地硬件上! GLM-5.2 是 Z.ai 的全新开源模型,在长周期代码、推理和 Agentic 任务中提供了 SOTA (State-of-the-Art) 性能。凭借 744B 参数、40B 活跃参数和 1M 上下文窗口,它现
Moebius: 0.2B 轻量级图像修复框架,实现10B级别的性能 作者: Kangsheng Duan, Ziyang Xu, Wenyu Liu, Xiaohu Ruan, Xiaoxin Chen, Xinggang Wang 单位: 1 华中科技大学, 2 VIVO AI Lab 摘要: 尽管10B级别的工业级基础模型在图像修复领域取得了突破性进展,但其
在 LLM 时代,自建软件的成本大幅降低了,但到底降到什么程度才值得放弃付费 SaaS?本文用 Jira($400/月)和 Salesforce($25,000/月)的对比分析,提出了"可销售软件的最小可行单元"概念——低于某个价格门槛,即使有 LLM 帮助,自建也远不如购买划算。
Fil-C 提出了一种创新方案:不直接验证内联汇编代码的正确性,而是对汇编操作进行沙箱化隔离。通过限定输入输出操作数和破坏列表,Fil-C 让 asm() 在保持灵活性的同时变得完全内存安全。文章分析了循环移位和比较并交换两个典型案例,并展望了未来发展方向。
AMD MI355X (CDNA4) GPU 的占用率计算完全指南。从芯片架构出发,详解四个资源限制器(VGPR、SGPR、LDS、工作组槽位)如何决定 wavefront 驻留数,并用 MXFP8 GEMM 分片实例演示手动推导过程,最后用 rocprofv3 实测验证关键结论:对于矩阵引擎密集型负载,高占用率不是正确目标。
如果您的产品堆栈中集成了 AI 模型,您可能曾好奇过,您的 GPU 集群究竟能支撑到什么规模。通过对您的硬件和模型架构进行一些基础的了解,我们就可以在“餐巾纸”上快速估算出每位用户的美元成本。 如果您对 GPU 和/或 LLM(大型语言模型)的原理比较熟悉,请使用以下索引跳转到相关的章节: 单