设计模式(Design Pattern)
设计模式(Design pattern)代表了最佳的实践,通常被有经验的面向对象的软件开发人员所采用。设计模式是软件开发人员在软件开发过程中面临的一般问题的解决方案。这些解决方案是众多软件开发人员经过相当长的一段时间的试验和错误总结出来的。
设计模式(Design pattern)代表了最佳的实践,通常被有经验的面向对象的软件开发人员所采用。设计模式是软件开发人员在软件开发过程中面临的一般问题的解决方案。这些解决方案是众多软件开发人员经过相当长的一段时间的试验和错误总结出来的。
最近在日常的工作中遇到这样一个场景:我需要存储线上海量的拨测结果,内存里堆积着数以百万计的小对象,每个对象只有几百字节?当我满怀信心地以为 Go 的垃圾回收(GC)能帮你搞定一切时,却发现程序时不时地“卡顿”一下,CPU 飙升,而内存占用也远超预期。
深入分析后,我终于定位到了问题的症结所在:这个服务需要维护海量的业务元数据,每个元数据对象只有大约 2000-5000 字节,但总量却高达 200 万个。这些“小不点”们,在内存里正悄无声息地制造着一场“大麻烦”!
在讨论RAG技术之前,我们先看在开发大语言模型(LLM)应用时会遇到的典型场景问题。比如,当设计一个 LLM 问答应用,当模型回答用户的特定领域问题时,尽管大模型再厉害,也没办法提供准确的答案,而且大模型的训练数据也不可能总是最新的,模型无法及时提供最新的答案,这种现象在 LLM 应用中较为常见。
除此之外,还有其他的诸多问题。总结为以下几个问题:
由于最近装了好多虚拟机,希望有一个统一的入口,那么就需要一个开源的跳板机了,调研了一下 teleport(远程传送)真的是个不错的选择。这样就可以有一个统一的 跳板入口了。
FFD 算法,即首次适应递减算法(First Fit Decreasing),是一种用于解决装箱问题(Bin Packing Problem)的近似算法。装箱问题的目标是将一系列具有不同大小的物品,尽可能高效地装入有限容量的箱子中,使得使用的箱子数量最少。