暂无搜索历史
上一篇把大模型拆到了 next token prediction 这一层,顺带提过 token、KV Cache、上下文窗口几个词,这篇把它们真正算清楚。
这几年,不管哪种岗位,技术问题往往都要问一些偏AI的,比如:「你讲讲大模型的工作原理吧。」那这个题在考什么?面试肯定是要考核对核心原理、架构的深度理解,越详尽越...
产品经理:「隔壁老王的IM,头像下面有个绿点,咱们也加一个,easy吧?」如果对方只想到:存个布尔值,上线置 true、下线置 false,一张 Redis 表...
一个 1 万人的全员群,群主发了一条「明天全公司放假,庆祝xx挺近世界杯64强」。
产品经理问:「会话列表那个红色数字,群里超过 99 就显示 99+,对吧?跟某信一样。」看起来就是个计数器吗,收一条加一,点进去清零。
测试同学发来一张截图:App 顶部挂着"连接中…"转了十几秒,然后变成"网络不可用",过一会儿自己又好了。这种问题几乎每个做 IM 的团队都遇到过——它不报错码...
很多 RAG Demo 在本地跑得很漂亮:问答流畅、来源清晰。但只要你动了"把它挂到公网"的念头,问题立刻变成另一个量级——因为公网上来访问你的,不只有真实用户...
一家做出海业务的公司,产品文档是中英文双语维护。可它的用户里不仅有讲英语的、还有讲日语的、讲东南亚语言的。这些用户打开文档中心,面对一个中文搜索框,基本是抓瞎的...
我们每天都在和各类文档中心打交道:企业内部 Wiki、对外官网帮助中心、云厂商的产品文档。想找一个具体答案时,绝大多数时候,迎接我们的还是一个搜索框。
在IM实践过程中,消息的多端同步是非常实用的功能。To C/B 业务基本都是标配功能。但是当测试给你反馈:手机上聊得好好的群,切到电脑端打开,最后五条没了;过一...
发一句「在吗,方便聊下」,从你按下发送到对方手机弹窗消息[老六:发来了一条消息],中间发生了什么?
北京到美西直线约 1 万公里,光在真空里跑这段要 33ms,而信号在光纤里只有真空光速的约三分之二,单程拉到约 50ms。一来一回,物理下限已是 100ms 上...
一条消息从客户端发出到对端收到要经过几道处理:客户端先打一个本地标识用于重传去重,上行到服务端后分配一个会话内序号用于排序和补洞,再落库、扇出、推送。
讨论 IM 连接鉴权,更多考虑"用什么凭证"——token 还是证书,对称还是非对称。但真正决定接入层形态的是什么时候鉴权?鉴权这一步,应该放在连接生命周期的哪...
很多人对心跳的第一印象是:客户端每隔一段时间发个小包,服务端定时检查,谁不发就踢掉——死连接不就被发现了吗?但真在生产环境跑过一阵接入层就会发现:有心跳机制的系...
HTTP/2、WebSocket、gRPC 这些成熟轮子摆在那儿,IM 接入层为什么还有人费劲去自研一套二进制协议,这不是重复造轮子吗?
凌晨梦里和小美在吃饭,运维同学甩来一个急电:接入层显示 1 万多条活跃长连接,TCP 状态全是 ESTABLISHED,看着一片绿。但当天的推送到达率却异常地低...
今天讲讲从用户点"发送"到消息抵达接入层第一个微服务这段路,平均耗时大概10-200ms,这期间:客户端 SDK 怎么拼包、走哪个通道、怎么解析域名、TLS 怎...
产品经理:"撤回功能加一下,跟某信一样,2 分钟内可撤回。" 此外toB 客户要求:"我们合规要求撤回的内容也要留底审计,你们怎么实现?"
老板拍桌:"昨天客户说他发的消息我们没收到,赔了 5 万。"产品经理来找你:"消息会丢?不是有 ACK 吗?"你查日志翻三小时:消息确实到了服务端,MQ 也消费...
暂未填写学校和专业
暂未填写个人网址