站长之家(ChinaZ.com) 12月15日 消息:ChatGPT 等生成式人工智能服务的流行激发了人们将这些新工具应用于实际企业应用程序的兴趣。如今，几乎每个企业应用程序都通过生成式人工智能功能得到增强。
大多数人工智能、数据科学、机器学习开发、部署和运营工具都支持生成式人工智能用例。这些工具的各种风格有助于管理人工智能开发生命周期、管理人工智能开发的数据并降低安全和隐私风险。尽管这些功能也可用于改进生成式 AI 开发，但本文重点介绍生成式 AI 专用工具。
还有许多新兴类型的生成式 AI 不使用如此大型的语言模型 （LLM） 来执行生成等任务图像、视频、音频、合成数据以及跨语言翻译。这包括使用生成对抗网络、扩散、变分自动编码器和多模态技术构建的模型。
考虑到这一点，以下是有关生成式 AI 开发工具的类别及其与一些领先供应商或开源实现的功能的更多详细信息。还值得注意的是，许多领先的供应商开始通过收购或开发来扩展其核心产品以支持多个类别。虽然许多现有工具支持特定类别，但企业在规划其生成式 AI 策略时可能希望探索直接或通过集成市场支持这些功能的平台功能.
1. 基金会模型和服务
新的生成式 AI 工具在很大程度上侧重于简化开发和负责任地使用使用 Google 首创的 Transformer 方法构建的 LLM2017年的研究人员。基于LLM构建的新基础模型通常可以直接开箱即用，以增强现有应用程序。在其他情况下，供应商正在为各个行业和用例开发特定于领域的模型。
基础模型和服务的例子包括Anthropic的Claude、百度研究院的文心一言、Cohere的Generate、Facebook的Llama系列、Google的Palm、微软的Palm Orca、OpenAI 的 GPT 系列和技术创新学院的 Falcon LLM。特定领域LLM包括 C3AI;DeepMind 的 AlphaCode;谷歌的 Med-Palm; Nvidia的NeMo、BioNeMo和Picasso;和 OpenAI 的 Codex。
2.云生成AI平台
各大云平台也推出了一套生成式 AI 功能，帮助企业开发、部署和管理生成式 AI 模型和功能。云提供商生成式 AI 平台包括 AWS Generative AI、Google Generative AI、IBM Watsonx 和 Microsoft Azure AI Fundamentals。用于在云中开发生成式 AI 的热门第三方生成式 AI 开发平台包括 Hugging Face 和 Nvidia 的产品。
3.用例优化工具
通用基础模型可以生成听起来且清晰的文本。他们还倾向于产生幻觉并产生不准确的信息。生成式人工智能专用开发工具还可以帮助企业推出自己的法学硕士，根据其独特的需求和专业知识进行调整。检索增强生成 （RAG） 可以启动基础模型以提高准确性。微调工具帮助企业校准基础模型。 RAG 和微调工具有时会一起使用，以平衡每种方法的收益。
RAG 工具包括 ChatGPT 检索插件、Hugging Face Transformers 插件以及 Farm、Haystack 和 Realm 等开源工具。微调功能已融入到服务中，以访问大多数商业基础模型。其他第三方微调工具包括 Entry Point 和 SynthFlow（以前称为 Fine-Tuner），以及来自 Hugging Face 的可与开源模型配合使用的产品。
4. 质量保证和减轻幻觉工具
新的幻觉检测工具可以帮助识别和减少各种用例的幻觉发生率。的幻觉缓解工具包括伽利略实验室的LLM Studio、Helix3实验室Glen、TruEra 的 TruLens 和 Vectara 的 Vectara 平台。
啄木鸟算法等新的研究技术可以帮助有兴趣开发自己的幻觉缓解工作流程的企业。许多供应商已经发布了这些的开源变体，包括 Galileo Labs 的开源版本。 ChainPoll、TruEra 的 TruLens 和 Vectara 的 Hughes 幻觉评估模型。
5. 快捷的工程工具
及时的工程工具有助于管理与LLM的互动以及法学硕士的测试。这些工具的面向用户的变体使得开发和管理有用提示库变得更加容易。以工程为导向的变化有助于自动化测试流程，以识别偏差、毒性或幻觉。
提示工程工具包括 BetterPrompt、OpenPrompt、PromptAppGPT、Prompt Engine 和 Promptimize。
6. 数据聚合工具
早期基础模型支持有限的上下文窗口，这些窗口描述了 LLM 在一次查询中可以处理的数据量。尽管这些模型在处理更大的上下文窗口方面做得越来越好，但开发人员已经制作了各种类型的工具来处理更大的数据集。
LangChain 和 Dust 等数据链工具可以自动化将多个文档输入到法学硕士的过程。矢量数据库以中间格式存储数据，称为嵌入空间，以便与法学硕士一起使用。值得考虑的载体数据库包括 Chroma、Faiss、Pinecone Systems 等。 Pinecone、Qdrant 和 Weaviate。
7. 代理和自主人工智能工具
开发人员还在探索如何在一个或多个基础模型以及它们可能涉及的后端服务之间实现自动化交互。从长远来看，这可能有助于推动代理人工智能或自主人工智能的发展。自主和代理人工智能工具包括 AgentGPT、AutoGPT、BabyAGI 和 OthersideAI 的自运行计算机框架等开源工具。平台供应商还推出了新服务，以集成跨多个 LLM 模型和服务的工作流程。
8. 生成式人工智能成本优化工具
AI成本优化工具有助于在性能、准确性和成本之间取得平衡。这些工具仍处于开发早期，但早期的一个例子是 Martian 的模型路由器。从长远来看，现有的云成本优化可能会开发相关产品。