在人工智能领域，IBM 近期推出了一款名为 Granite 3.2 的新型大型语言模型，引起了业界的广泛关注。这款模型旨在为企业和开源社区提供一个“小巧、高效、实用”的人工智能解决方案，特别强调其在企业应用中的价值。Granite 3.2 不仅具备多模态和强大的推理能力，还在灵活性和成本效益方面进行了显著提升，从而降低了企业采用人工智能技术的门槛。
作为 Granite 3.2 的一个重要组成部分，视觉语言模型（VLM）的引入为处理文档、数据分类和提取等任务带来了革命性的改变。IBM 宣称，在多个关键的基准测试中，Granite 3.2 的性能表现已经达到了甚至超越了像 Llama3.211B 和 Pixtral12B 这样规模更大的模型。这一成就充分展示了 Granite 3.2 在优化模型效率方面的卓越能力。此外，Granite 3.2 的 8B 模型在标准的数学推理基准测试中也表现出色，其性能可以与更大的模型相媲美甚至超越，进一步证明了其强大的推理能力。
为了进一步提升推理能力，Granite 3.2 的部分模型还具备了一种名为“思维链”的功能。这种功能可以清晰地展示中间的推理步骤，使得模型的决策过程更加透明和可解释。尽管“思维链”功能需要较大的计算资源，但用户可以根据实际需求随时启用或禁用它，从而在效率和成本之间找到最佳平衡点。IBM AI 研究副总裁 Sriram Raghavan 在发布会上强调，下一代人工智能的关键在于效率、整合以及实际应用效果，企业需要在不增加额外支出的前提下，实现强大的人工智能功能。
除了推理能力的提升，Granite 3.2 还推出了“Granite Guardian”安全模型的小型化版本。尽管体积缩小了 30%，但其性能仍然保持了前一代模型的水平。这一突破性的进展为企业在安全方面提供了更灵活的选择。此外，IBM 还引入了一种名为“可言语化信心”的新能力，这种能力可以更细致地评估风险，并在安全监测中充分考虑不确定性因素，从而提高安全决策的准确性和可靠性。
Granite 3.2 是在 IBM 的开源 Docling 工具包上进行训练的。Docling 工具包允许开发者将文档转换为定制的企业 AI 模型所需的特定数据格式，极大地简化了模型训练的过程。在模型训练过程中，研究人员处理了 8500 万份 PDF 文件以及 2600 万个合成问答对，从而显著增强了 VLM 处理复杂文档工作流的能力。这一大规模的训练数据为 Granite 3.2 的卓越性能奠定了坚实的基础。
此外，IBM 还宣布推出下一代 TinyTimeMixers（TTM）模型。这是一种紧凑的预训练模型，专注于多变量时间序列预测，并具备最长可达两年的长远预测能力。TTM 模型的推出为企业在时间序列预测方面提供了更强大的工具。
Granite 3.2 的技术特点
Granite 3.2 的成功并非偶然，它得益于多项关键技术创新：
- 视觉语言模型（VLM）：VLM 的引入使 Granite 3.2 能够处理和理解图像和文本信息。这为文档处理、数据分类和提取等任务带来了质的飞跃。通过 VLM，Granite 3.2 可以识别文档中的关键信息，并将其用于后续的分析和决策。
- 思维链（Chain of Thought, CoT）：思维链是一种提高模型推理能力的技术。通过展示中间的推理步骤，思维链使模型的决策过程更加透明和可解释。这对于需要高度可信度的应用场景至关重要，例如金融分析和医疗诊断。
- 模型压缩技术：Granite Guardian 安全模型的小型化充分展示了 IBM 在模型压缩方面的技术实力。通过模型压缩，可以在保持性能的同时，显著降低模型的体积，使其更易于部署和使用。这对于资源受限的环境，例如移动设备和边缘计算，尤其具有重要意义。
- 可言语化信心：可言语化信心是一种评估风险的新方法。通过考虑不确定性因素，可言语化信心可以更准确地评估风险，并为安全决策提供更可靠的依据。这对于需要高度安全性的应用场景至关重要，例如网络安全和风险管理。
- Docling 工具包：Docling 工具包是一种开源工具，用于将文档转换为定制的企业 AI 模型所需的数据格式。Docling 工具包简化了模型训练的过程，并使企业能够更轻松地构建自己的 AI 模型。这对于希望利用 AI 解决特定业务问题的企业尤其具有价值。
- TinyTimeMixers（TTM）模型：TTM 模型是一种紧凑的预训练模型，专注于多变量时间序列预测。TTM 模型具备长远预测能力，可以为企业提供有价值的预测信息，从而帮助企业做出更明智的决策。这对于需要长期规划的应用场景至关重要，例如供应链管理和能源预测。
Granite 3.2 的应用场景
Granite 3.2 的多功能性使其适用于各种应用场景：
- 文档处理：Granite 3.2 可以自动处理各种类型的文档，例如合同、报告和发票。它可以识别文档中的关键信息，并将其用于后续的分析和决策。这可以显著提高文档处理的效率，并降低人工成本。
- 数据分类：Granite 3.2 可以自动将数据分类到不同的类别中。这可以帮助企业更好地组织和管理数据，并从中提取有价值的信息。这对于需要处理大量数据的企业尤其具有价值，例如零售和金融。
- 风险评估：Granite 3.2 可以评估各种类型的风险，例如信用风险、市场风险和操作风险。它可以识别潜在的风险因素，并预测风险发生的概率。这可以帮助企业更好地管理风险，并降低损失的可能性。
- 时间序列预测：Granite 3.2 可以预测各种类型的时间序列数据，例如销售额、股价和天气。它可以识别时间序列数据中的模式，并预测未来的趋势。这可以帮助企业做出更明智的决策，并提高运营效率。
- 客户服务：Granite 3.2 可以用于构建智能客服机器人，从而提供更高效、更个性化的客户服务。它可以理解客户的问题，并提供相应的解决方案。这可以显著提高客户满意度，并降低客户服务成本。
- 内容生成：Granite 3.2 也可以用于生成各种类型的内容，例如文章、报告和代码。它可以根据用户的需求，自动生成高质量的内容。这可以显著提高内容创作的效率，并降低内容创作的成本。
Granite 3.2 的市场影响
Granite 3.2 的推出对人工智能市场产生了重要的影响：
- 降低了企业采用人工智能技术的门槛：Granite 3.2 的小巧、高效和实用性使其更易于部署和使用。这降低了企业采用人工智能技术的门槛，并使更多企业能够从中受益。
- 推动了开源人工智能的发展：Granite 3.2 是在开源 Docling 工具包上进行训练的。这鼓励了开源人工智能的发展，并使更多开发者能够参与到人工智能的创新中来。
- 促进了人工智能在企业中的应用：Granite 3.2 的多功能性使其适用于各种企业应用场景。这促进了人工智能在企业中的应用，并帮助企业提高效率、降低成本和改善决策。
- 加速了人工智能技术的发展：Granite 3.2 的技术创新，例如 VLM 和思维链，加速了人工智能技术的发展。这些技术创新为人工智能的未来发展奠定了基础。
IBM Granite 3.2 的发布，不仅为企业提供了一个更高效、更经济的人工智能解决方案，也预示着人工智能技术在企业应用中将迎来更广阔的发展前景。其在推理能力、安全性和多功能性方面的提升，无疑将加速各行业智能化转型的步伐。随着越来越多的企业开始采用 Granite 3.2，我们有理由相信，人工智能将在未来的商业环境中扮演更加重要的角色。
