使用 Megamedia 在 AWS 上使用生成式人工智能解决方案启动高精度聊天机器人

作为智利最大的广播公司之一，Megamedia 在该地区拥有网站以及广播、电视和有线频道。该公司的新闻网站 meganoticias.cl 托管了一个工具，旨在帮助公众获取有关政府支持和福利的信息，例如电力和住房补贴、奖学金、奖金、自动家庭补贴、失业保险等。公众可以在 meganoticias.cl 网站的“Dato útil”栏目中找到从各个政府网站收集到的信息，例如有哪些福利以及如何申请这些福利。 但 Megamedia 认为，它可以找到一种更便捷的方式来为用户提供这些信息。

2024 年初，Megamedia 决定使用生成式人工智能来构建一个聊天机器人，专门用来回答公众关于政府福利计划的各种问题。“我们一直在探索一种方式，让公众不仅可以阅读有关这些福利的文章，还可以根据自己的具体情况进行个性化的查询。”Megamedia 的 meganoticias.cl 总编辑 Claudio Arce 表示。例如，通过使用聊天机器人，失业的父母在寻找育儿和失业救济金信息时，可以提出与他们个人情况相关的问题，并得到针对性的个性化回答。该公司开始使用 AWS 上的生成式人工智能应用程序生成器构建应用程序，这个生成器是 AWS 解决方案库中的一个解决方案，它使得即使没有深厚的人工智能背景，也能够促进生成式人工智能应用程序的开发、快速实验和部署。

Megamedia 还开始与智利的首批 AWS 合作伙伴之一 ARKHO 合作，后者已经在 AWS 上 使用生成式人工智能，并将其专业知识融入到这个项目中。Megamedia 和 ARKHO 共同完善了聊天机器人的模型精度，并将这个模型成功迁移到了 Megamedia 的网站。Dato Útil 聊天机器人已在 meganoticias.cl 上线，它在 2024 年 5 月初正式推出，这标志着从项目启动到上线仅用了四个月的时间。

借助 Dato Útil 聊天机器人，公众现在可以提出有关智利公共项目的问题，并在大约 30 秒内获得针对他们具体情况的信息。以前，他们可能需要花费数小时浏览政府网站来搜索相关信息。ARKHO 营销协调员 Nicol Campusano 表示：“这个项目将为那些缺乏获取其他答案所需工具和途径的公众提供极大的价值。”Megamedia 的团队还致力于确保用户在移动设备和各种浏览器上都能获得流畅的体验。

由于得到了大型语言模型 (LLM) 的加持，与 Dato Útil 的交互体验就像进行一场真实的对话，与那些仅提供静态预设答案的聊天机器人相比，Dato Útil 为提供了更好的用户体验。该聊天机器人是利用 Anthropic 的大型语言模型 Claude 2 通过 Amazon Bedrock 构建的，而 Amazon Bedrock 是一种完全托管的服务，它提供了来自知名人工智能公司的各种高性能基础模型供用户选择。ARKHO 提供了 Amazon Bedrock 方面的专业知识，后者集成在 AWS 上的生成式人工智能应用程序生成器中。“我们基本上在所有生成式人工智能用例中都使用 Amazon Bedrock，因为它非常灵活。”ARKHO 的数据科学家 Nicolas Caraball 表示，“Amazon Bedrock 允许我们访问众多模型，包括最新发布的模型，而且它是按使用量付费的，我们无需自行托管模型，从而能够节省大量成本。”

Dato Útil 聊天机器人最重要的要求之一是提供准确的信息。Megamedia 将其成功标准设定为至少 80％ 的准确率。“作为新闻网站，我们的编辑权重与其他类型的网站有所不同。”Megamedia 数字战略总监 Daniela Cartagena 表示，“信誉至关重要，因此我们展示的内容必须是真实可靠的。” Megamedia 与 ARKHO 携手合作，通过使用高质量的提示和数据源来训练模型，从而提高了解决方案的准确性。为了将数据集成到模型中，ARKHO 使用智能企业搜索服务 Amazon Kendra 从源文件中提取有关政府福利计划的文本，并生成了用于向量搜索的嵌入。Dato Útil 聊天机器人随后在政府福利的特定背景下接受了进一步的培训，并与一个记者团队共同完善其回复内容。该模型现在的准确率超过 90％。

Megamedia 很高兴能够创新并向公众提供这一工具。Megamedia 还努力确保记者，特别是那些对这项技术持怀疑态度的记者，能够参与进来，帮助他们塑造这个工具，并了解这个工具如何使他们受益。例如，记者可以利用聊天机器人搜索政府发布的信息，更快速、更高效地撰写新闻稿件。Arce 表示：“公众对人工智能及其可能对新闻编辑带来的影响感到担忧，因此我们希望向团队内部展示，人工智能可以成为解决问题的工具，而不是一种威胁。”