人类监督是保持人工智能诚实的关键
新闻聚合平台 SmartNews 的信任负责人表示，人工智能驱动的工具不应自行决定人们应该阅读哪些内容，他解释了为什么人类必须始终了解情况。
人工智能 (AI) 仍缺乏解读信息所需的关键特征，因此不应自行决定人们应该阅读哪些内容。
SmartNews 信任、安全和客户体验主管 Arjun Narayan 表示，人工监督和护栏对于确保向用户推送正确的内容至关重要。
该新闻聚合平台精选来自全球 3,000 个新闻来源的文章，其用户平均每天在其应用上花费 23 分钟。该应用程序可在 Android 和 iOS 平台上使用，下载量已超过 5000 万次。 SmartNews 总部位于东京，在日本和美国设有团队，由语言学家、分析师和政策制定者组成。
该公司的既定使命是在网上提供大量信息的情况下，推送可靠且与用户相关的新闻。 “新闻应该值得信赖。我们的算法评估数以百万计的文章、信号和人类互动，以提供当前最重要的前 0.01% 的故事，”SmartNews 在其网站上宣传道。
该平台使用机器学习和自然语言处理技术来识别和优先考虑用户想要的新闻。它具有评估新闻来源的可信度和准确性的指标。
纳拉扬说，这一点至关重要，因为信息越来越多地通过社交媒体消费，而社交媒体的准确性可能受到质疑。
其专有的人工智能引擎支持根据用户的个人喜好（例如他们关注的主题）定制的新闻源。它还使用各种机器学习系统来分析和评估已编入索引的文章，以确定内容是否符合公司的政策。他说，不合规的来源会被过滤掉。
由于客户支持向他的团队汇报，因此他补充说，可以快速审查用户反馈并在相关的地方进行合并。
与许多其他公司一样，该公司目前正在研究生成人工智能，并评估如何最好地利用新兴技术来进一步增强内容发现和搜索。纳拉扬拒绝提供有关这些新功能的详细信息。
不过，他确实强调了在人工智能使用过程中保留人类监督的重要性，而在某些领域仍然缺乏这种监督。
例如，大型语言模型在处理突发新闻或话题新闻时效率不高，但在用于分析常青内容（例如 DYI 或操作文章）时，可以以更高的准确性和可靠性运行。
他指出，这些人工智能模型在总结大量内容和支持某些功能（例如增强内容分发）方面也表现出色。他的团队正在评估使用大型语言模型的有效性，以确定某些内容是否符合公司的编辑政策。 “它仍处于新生阶段，”他说。 “我们了解到，人工智能模型的准确性或精度水平与您提供和训练它的数据一样好。”
纳拉扬说，当今的模型很大程度上没有“意识”，并且缺乏语境理解。他说，随着更多的数据集和数据类型被输入到模型中，这些问题可以随着时间的推移得到解决。
应投入同等的努力来确保训练数据得到“处理”并且没有偏见或对不一致进行标准化。他指出，这对于生成式人工智能尤其重要，因为开放数据集通常用于训练人工智能模型。他将其描述为该行业的“阴暗”部分，这将导致与版权和知识产权侵权相关的问题。
“目前，关于人工智能模型将使用什么样的数据，目前还没有太多公开披露，”他说。 “这需要改变。他们的训练方式和决策逻辑应该透明，因为这些人工智能模型将塑造我们的世界观。”
他对“幻觉”表示担忧，即人工智能能够生成虚假信息，让现实的人相信这是真的。
他说，此类问题进一步强调需要某种形式的治理，其中包括人类监督推送给用户的内容。
组织还需要审核人工智能模型的结果并实施必要的防护措施。例如，当人工智能系统被要求提供有关制造炸弹或撰写抄袭文章的说明时，应该有安全网。
纳拉扬说：“人工智能目前还没有达到可以让它自行运行的阶段。”他补充说，应该始终对人类能力和监督进行投资。 “你需要护栏。你不想要未经校对或事实检查的内容。”
在大肆宣传中，重要的是要注意生成式人工智能的局限性，这些模型仍然没有经过训练来处理突发新闻，并且不能很好地在实时数据上运行。
人工智能效果更好的地方在于为其推荐引擎提供动力，SmartNews 使用该引擎根据某些背景信号（例如用户的阅读模式）对被认为更感兴趣的文章进行优先排序。他解释说，这些人工智能系统在过去十年中一直在使用，其中的规则和算法不断进行微调。
虽然他不愿意透露如何整合生成式人工智能的细节，但他指出了它在简化人类与机器交互方面的潜力。
任何人，包括那些没有技术背景的人，只要知道如何提出正确的问题，就能够得到他们需要的答复。他说，然后他们可以重新调整答案以用于日常活动。
然而，生成式人工智能的某些领域仍然处于灰色地带。
纳拉扬表示，其新闻平台上正在与出版商讨论如何管理完全由人工智能撰写的文章，以及由人类撰写但经过人工智能增强的文章。如果对此类条款制定规则，那么如何执行？
此外，还存在关于应适用于不同变体的披露程度的问题，以便读者知道何时以及如何使用人工智能。
无论最终如何解决这些问题，仍然需要进行编辑监督。 Narayan 再次强调透明度的重要性，他表示每一条内容仍必须符合 SmartNews 关于准确性和可信度的编辑政策。
他对人工智能道德和信任团队被取消的技术裁员表示担忧。 “我现在告诉你，继续对安全护栏进行[人力]监督和投资非常重要。如果缺乏勤奋，我们就会创造一个怪物，”他说。 “自动化很棒，可以让你扩展系统，但没有什么能与人类的聪明才智相媲美。”