人工智能企业应用4个需要注意的方面
最近一段时间,我一直在做人工智能大语言模型的企业应用场景落地,我发现有四个方面值得重点关注:
第一就是私有化,信息安全是很多企业应用人工智能大语言模型的基础,私有化是解决方案。可以在大语言模型、知识库、应用层进行私有化部署,满足不同层次的私有化需求;
第二就是知识库,目前基于一般的大语言模型无法实现基于行业、企业、个人的私有数据的处理,采用“检索增强生成”(RAG)已经是大语言模型应用的常用解决方案,但是基于向量匹配检索的准确度还是很难达到企业的需求,对此有很多调优手段,比如结合全文索引、知识图谱技术,同时还可以考虑如何提升知识库数据质量,如何提升处理方法(如切片大小、嵌入模型选择、rerank模型选择等),如何处理非结构化数据和结构化数据、如何进行质量评估和迭代优化等,都是考验一个大语言模型企业应用的方方面面;想要做好,真的不容易;
第三就是多模态,基于文字的对话问答很难满足企业真实应用场景的需求,全面的支持包括文字、语音、图片、视频、办公文档、特殊格式文档等,才是企业应用的实际需求,结合多模态大语言模型、定制开发相应的agent、外部程序调用等,是重点需要投入大量开发资源的地方;
第四就是多场景应用,不同的客户端的支持,API调用、嵌入调用、集成不同的app使用等,都是大语言模型企业应用的实际应用场景,需要我们有清晰的规划,要针对不同场景提供相应解决方案。
人工智能大语言模型企业应用的前景广阔,现在传统的信息系统基本上都可以用人工智能重新做一遍,以适应新时代的发展需要,但是需要注意的是,需要有长远的发展规划,避免信息孤岛、冗余建设等传统信息技术建设过程中常犯的问题。