纽约（美联社）——近年来，随着国际救援委员会（International Rescue Committee）应对流离失所者人数的急剧增加，这个难民援助组织一直在尽可能地提高效率——包括使用人工智能。

自2015年以来，国际聊天委员会投资了“路标”，这是一个移动应用程序和社交媒体渠道的组合，可以用不同的语言回答处于危险情况下的人们的问题。Signpost项目包括许多其他组织，到目前为止已经覆盖了1800万人，但IRC希望通过使用人工智能工具来显著增加其覆盖范围。

根据联合国难民署的数据，冲突、气候紧急情况和经济困难推动了对人道主义援助的需求，2024年有超过1.17亿人被迫流离失所。随着人道主义组织遇到更多需要帮助的人，他们也面临着巨大的资金短缺。转向人工智能技术的部分原因是需求和资源之间的巨大差距。

为了实现在三年内帮助一半流离失所者的目标，国际救援委员会正在建立一个人工智能聊天机器人网络，以提高其人道主义官员和通过“路标”直接为人们提供服务的当地组织的能力。目前，该项目在萨尔瓦多、肯尼亚、希腊和意大利开展，并以11种语言响应。它结合了一些大型科技公司的大型语言模型，包括OpenAI、Anthropic和谷歌。

聊天机器人响应系统还使用Zendesk的客户服务软件，并接受谷歌和思科系统的其他支持。

除了开发这些工具之外，IRC还希望免费将此基础设施扩展到其他非营利性人道主义组织。他们希望创建共享的技术资源，不太关注技术的组织可以使用这些资源，而不必直接与科技公司谈判或管理部署的风险。

国际救援委员会首席研究与创新官珍妮·安南（Jeannie Annan）说：“我们正努力真正弄清楚合理的担忧在哪里，但要对机会持乐观态度，不要让我们所服务的人群在解决方案上落后，这些解决方案有可能以人与人之间或其他技术无法实现的方式扩大规模。”

“路标”聊天机器人提供的回复和信息经过当地组织的审查，是最新的，对人们可能处于的不稳定环境很敏感。IRC分享的一个查询示例是，一名来自萨尔瓦多的妇女带着她的儿子穿越墨西哥前往美国，她的儿子正在为她的孩子寻找住所和服务。机器人提供了她所在地区的供应商列表。

更复杂或敏感的查询会升级，以便人类进行响应。

这些工具最重要的潜在缺点是它们不起作用。例如，如果地面上的情况发生了变化，聊天机器人不知道“text-indent: 2em；”第二个问题是，这些工具可以收集有关弱势群体的宝贵数据，这些数据可能成为敌对行为者的目标。如果黑客成功访问了包含个人信息的数据，或者这些数据意外地与专制政府共享，该怎么办？IRC表示，他们与技术提供商达成一致，他们的人工智能模型都不会接受IRC、当地组织或他们所服务的人产生的数据的训练。他们还努力将数据匿名化，包括删除个人信息和位置。

作为路标的一部分。人工智能项目，IRC也在测试数字自动化导师和地图等工具，这些工具可以整合许多不同类型的数据，以帮助准备和应对危机。

Cathy Petrozzino在非营利性研发公司MITRE工作，她说人工智能工具确实有很大的潜力，但也有很高的风险。她说，为了负责任地使用这些工具，组织应该问自己，这些技术是否有效。她还强调，组织需要召集一系列的人来帮助管理和设计计划——不仅仅是技术专家，还有对环境有深入了解的人、法律专家，以及将使用这些工具的团体的代表。

她说：“在人工智能的坟墓里，有很多很好的模型，因为它们不是与用户社区共同协作制定出来的。”

Petrozzino说，对于任何有可能改变生活的影响的系统，组织应该引入外部专家来独立评估他们的方法。她说，人工智能工具的设计者需要考虑它将与之互动的其他系统，他们需要计划随着时间的推移监控模型。

咨询流离失所者或人道主义组织所服务的其他人可能会增加设计这些工具所需的时间和精力，但没有他们的参与会引发许多安全和道德问题，CDAC网络执行主任海伦·麦克尔辛尼（Helen McElhinney）说。它还可以解锁本地知识。

她说，接受人道主义组织服务的人应该被告知人工智能模型是否会分析他们提交的任何信息，即使目的是帮助该组织更好地做出反应。她说，这需要有意义和知情的同意。她说，他们还应该知道人工智能模型是否正在就资源分配做出改变生活的决定，以及这些决定的责任在哪里。

索马里和肯尼亚非营利组织Adeso的首席执行官德根·阿里（Degan Ali）长期以来一直主张改变国际发展中的权力格局，给予地方组织更多资金和控制权。她问IRC和其他寻求这些技术的公司将如何克服接入问题，并指出飓风“海伦”（Helene）在美国造成了长达一周的停电。她说，在没有设备、互联网或电力的情况下，聊天机器人是没有帮助的。

阿里还警告说，很少有地方组织有能力参加争论人工智能伦理的大型人道主义会议。她说，尽管他们了解这些技术可能具有的潜在力量和影响，但很少有足够资深和知识渊博的员工真正参与这些讨论。

阿里说：“我们必须非常小心，不要通过技术复制权力失衡和偏见。”“最复杂的问题总是需要当地、背景和生活经验来以有意义的方式回答。”

___

美联社和OpenAI签署了一项许可和技术协议，允许OpenAI访问美联社的部分文本档案。

___

美联社对慈善和非营利组织的报道通过美联社与the Conversation US的合作得到支持，资金来自礼来捐赠公司。美联社对此内容全权负责。有关美联社的所有慈善报道，请访问https://apnews.com/hub/philanthropy。