看来大部分还没怎么接触到，我们公司是搞这个的，倒是经常鼓捣，私有化部署大模型小模型，onnx调微调脚本，意图理解，然后就是各种云平台，部署，多租户。主要业务开发就是rag，agent编排，function call，然后就是在有限的算力下做优化，缓存，并发控制，网关监控，prompt调优。 去年这时候我也觉得集成ai就是调个接口回答问题，做了相关项目才知道要学的东西太多了。哪怕看似简单的调提示词，深入业务后并不简单。

包括rag，看似就是去向量库搜点东西拼prompt给大模型，但是里面的坑，深入点也特别多，切片方式，多模态文件处理，检索方式，怎么打tag，命中率低，查询提示词改写，多轮rag，结果重排乱七八糟的，每个环节都有的弄