
AI 晚报|11月15日
今天的快讯看下来,关键词大概是"依赖"和"信任":微软一断,大家才发现自己把多少东西挂在了同一根绳上;Anthropic 的漏洞修补计划被翻出账本,Fireworks AI 又被攻破,安全这件事越来越像长期作业而不是一次性考试。产品侧倒是有点意思,Claude
阅读全文 →最新文章
全部专栏
教程给自建搜索 API 接上 x402:让智能体按次自动付费
这篇能做出什么 做完这篇教程,你会得到一个可以直接对外提供服务的搜索/工具 API:调用方不带支付凭证时,服务端返回 HTTP 402 和一份“报价单”;调用方按报价单签名付款后,携带支付凭证重试,服务端向 facili
教程上手 World Labs Marble:一句话造出重庆山城
给 Marble 一段中文描述,等上一段时间,你会拿到一个能在浏览器里用鼠标转视角、用键盘走进去的 3D 场景。这篇教程以“一句话造出重庆山城”为例,把文本输入、图片输入、生成筛选、漫游找穿帮、局部编辑与场景扩展、导出视
AI 词典重新生成:同一道题,为什么答案会变
一句话定义:重新生成(Regenerate)指在不改动输入的前提下,让模型对同一个提示词(prompt)把解码(decoding)过程重跑一遍,得到另一个版本的输出。 它到底重跑了什么 大模型生成文本时,并不会去「查」一
AI 词典JSON 修复:模型吐了半截 JSON 怎么救
一句话定义:JSON 修复(JSON Repair)是把大模型输出的、语法不合法的文本,自动加工成能被 JSON 解析器正常读取的合法 JSON 的过程。 半截 JSON 是怎么来的 模型输出不是数据库查询,它是一段流式
AI 词典Demo 到生产的鸿沟:为什么演示很酷,上线就崩
一句话定义:Demo 到生产的鸿沟(DemotoProduction Gap),指的是一个 AI 功能在演示环境里跑得漂亮,和它能在真实业务里稳定服务大量用户之间,隔着的一整段工程落差。 打个比方。Demo 像在家给朋友
AI 词典模型偷懒:为什么 AI 总给你半套答案
一句话定义:模型偷懒(Lazy Model)是工程实践中的口语说法,指模型在答案还没真正讲完时就收束输出——用“同理可得”“不再赘述”跳过关键步骤,只给结论不给推导,或者列了三步就默认你懂了。这不是严格的学术术语,描述的
AI 词典会话隔离:多用户共用一套服务,上下文为什么不能串
一句话定义:会话隔离(Session Isolation)是指在同一套服务实例上同时服务多个用户时,保证每个会话的上下文(历史消息、临时状态、工具调用中间结果)只对属于它的那个会话可见,绝不串到别人那里去。 上下文为什么
教程跨两台 DGX 用 vLLM 部署 GLM 并压测调优
这篇教程拆解一个真实场景:模型大到单机 8 卡装不下(或者装得下但 KV Cache 不够用),需要把权重切到两台 DGX 上,用 vLLM 的多节点张量并行跑起来,再通过压测把输出吞吐稳定推到 600+ tok/s 这
AI 词典流式工具调用:参数只生成一半,程序该怎么读
一句话定义 流式工具调用(Streaming Tool Calls)指模型决定调用某个工具后,把工具名和参数(通常是 JSON)一个 token 一个 token 地吐出来,客户端边接收边解析,而不用等整段参数生成完才一
AI 词典MTU 与 IP 分片:为什么大响应会莫名超时
一句话定义:MTU(Maximum Transmission Unit,最大传输单元)是一条链路上单个数据帧能装下的最大字节数;IP 分片(IP Fragmentation)是当一个 IP 包超过下一跳的 MTU 时,把
AI 词典粘包与拆包:TCP 是字节流,不是消息流
一句话定义 粘包与拆包,说的是这么一件事:TCP 只保证字节按顺序可靠到达,不保证“发一次”对应“收一次”。因此应用层的一条消息可能和别的消息粘在一起被一次读到(粘包),也可能只读到半条(拆包),接收方必须自己重新划出消
AI 词典Nagle 算法与 TCP_NODELAY:为什么你的小数据包会被攒着不发
一句话定义:Nagle 算法是 TCP 发送方的一种“凑够再发”策略,用来合并网络上的小数据包;TCP_NODELAY 是套接字上的一个开关,关掉这套策略,让数据立即发出。 它在攒什么 TCP 每发一段数据,都要等对方回
AI 词典HTTP 管线化:请求为什么不能随便并行
一句话定义:HTTP 管线化(Pipelining)是 HTTP/1.1 中的一种优化思路:客户端不等上一个响应回来,就沿着同一条连接把后续请求连续发出去,像流水线一样往前推。 原理:像一桌人一口气点完菜 打个饭店比方。
AI 词典WebTransport:把一根水管拆成多条车道
一句话定义:WebTransport 是浏览器提供的一组 JavaScript 接口,让网页与服务器之间同时开多条独立通道,既能发可靠有序的数据流(stream),也能发“丢了就算了”的数据报(datagram);它底层
AI 词典RTMP 与 SRT:直播推流协议怎么选
一句话定义:RTMP(RealTime Messaging Protocol,实时消息传输协议)和 SRT(Secure Reliable Transport,安全可靠传输)都是把现场画面从你的电脑或摄像机送到服务器上的