对手来了！亚马逊生成式AI比GPT3。5更好

　　作者NIVASHJEEVANANDAM译者禾木木
　　出品CSDN（ID：CSDNnews）
　　技术圈很久都没有这么热闹了，要问大家当下都在热聊什么，非ChatGPT莫属了，一举成为StableDiffusion之外的AI新宠。
　　网友也特别乐于调戏它，还生成出了不少奇怪的神回复。
　　OpenAI在两个多月前向公众推出了ChatGPT，立即将AI驱动的聊天机器人推到了主流讨论中心，人们都在讨论它如何改变商业、教育等领域。
　　近日，在ScienceQA基准测试中，研究人员表明：亚马逊的新语言模型比GPT3。5高出16个百分点（75。17），甚至超过了许多人类。
　　注：ScienceQA基准测试是一组带有注释答案的大型多模态科学问题集。它有超过21，000道多模态选择题（MCQs）。
　　技术的进步使大型语言模型（LLMs）能够很好地完成复杂推理的任务。这是通过思维链（CoT）的提示来实现的，思维链是发展中间步骤的意义，以显示如何做某事的过程。
　　但目前大多数关于CoT的工作只关注语言模式，研究人员经常使用多模态CoT范式来寻找多模态CoT推理。而多模态更依赖于视觉和语言等多种输入。
　　它是如何工作？
　　多模态CoT将多个步骤的问题分解为中间推理过程，即使输入来自语言和视觉等不同模态，从而都能得出最终答案。
　　进行多模态CoT最常见的方法之一是在要求LLM做CoT之前，将来自多种模态的信息合并为单一的模态。
　　但这种方法有一些问题，其中之一是将数据从一种格式转移到另一种格式时，会丢失很多信息。通过结合语言和视觉的不同方面，微调小型语言模型也可以在多模态中进行CoT推理。
　　然而，这种方法的主要问题是，这些语言模型有产生幻觉的推理模式的倾向，大大影响了答案推理。
　　亚马逊的研究人员提出了MultimodalCoT，它将视觉特征结合在一个单独的训练框架中，以减少这些错误的影响。该框架将推理过程分为两部分：寻找原因和找出答案。该模型通过将视觉纳入两个阶段，提出了更有说服力的论点。此外，它还有助于对答案得出更准确的结论。这是第一个研究CoT推理工作方式不同的同类作品。在ScienceQA基准测试中，亚马逊研究人员提供的这项技术展示了最先进的性能，比GPT3。5精度高出16个百分点，超过了人类的表现。
　　它的表现如何？
　　多模态答案CoT的推理和推理生成阶段都使用相同的模型架构，但在输入和输出上有所不同。例如，在视觉语言模型的基本原理生成阶段，模型从视觉和语言领域获得数据。然后，一旦做出了基本原理，就会将其添加到答案推理步骤中的初始语言输入中，以便为下一阶段的语言输入。
　　简单地说，该语言的文本被放入Transformer编码器中以形成文本表示。然后，将这些文本和视觉表示放在一起，并输入Transformer解码器。
　　评价
　　为了了解他们的方法如何运作，研究人员对ScienceQA进行了许多测试。得出结论，他们的方法在基准测试上比之前最先进的GPT3。5模型高出16。
　　简而言之，亚马逊的研究人员通过提出一个将视觉和语言表示与运行MultimodalCoT相结合的两阶段框架，研究并解决了激发多模态CoT推理的问题。
　　因此，该模型提供了实际的理由来帮助找出最终的答案。
　　结论
　　亚马逊的研究人员在他们的研究中证明，使用视觉特征有助于开发更有效的推理，这有助于更准确的答案推理。
　　使用多模态CoT，他们证明了1B模型在ScienceQA基准测试中的表现比GPT3。5要高出16。他们的错误分析表明，在未来的研究中，有可能利用更有效的视觉特征，注入常识性信息，并应用过滤过程来改善CoT推理。
　　目前，行业巨头们已经逐渐在研究建立一个聊天机器人发展的标准，亚马逊现在也加入了这场竞争中。无论是国内外，这场竞争无疑将引领聊天机器人最佳解决方案和产品的发展方向，让我们拭目以待未来会有哪些精彩的事情。
　　参考链接：
　　https：www。moneycontrol。comnewstechnologychatgptcompetitorsamazonjumpsintofraywithgenerativeaibetterthangpt3510063651。htmlamp