介绍

人工智能 (AI)、深度伪造和自动决策系统的迅速崛起，使得人们越来越难以分辨自己是在与另一个人、人工智能，还是两者的混合体进行交流。这引发了关于信任、安全和社会凝聚力的严峻问题，尤其是在医疗、金融和媒体等影响深远的领域。

IEEE 3152 （正式名称为《透明人机代理识别标准》 ）旨在解决这一日益严重的问题，它通过定义清晰的标记和准则来识别我们正在与谁（或什么）交互。它建立在这样一个原则之上：个人不应被误导，误以为他们正在与一个隐藏其本质的实体对话或接收其内容。通过提供结构化的音频、视频和基于元数据的“标记”，该标准为提高透明度奠定了基础，并促进了值得信赖的人工智能与人类协作。

标准概述

目的和范围

IEEE 3152的核心是提供一个透明的框架，确保人们能够识别他们是否正在与以下对象进行通信：
1.一个真实的人（未经过滤或未经改变）。
2.一个自主的人工智能系统。
3.在人类监督下运作的混合实体。
4.人类的行为受到人工智能的操控。
5.被人工智能（合成或深度伪造）显著改变的媒体。

该标准不再关注人工智能系统如何在“幕后”做出决策，而是聚焦于谁或什么在控制内容或通信。这种清晰性对于减少在线聊天、电话通话、社交媒体帖子、视频或任何其他平台上的混乱和欺骗至关重要。

相关领域和应用

IEEE 3152 可以在多种用例中实现：
●客户服务：标记部分或全部由人工智能驱动的呼叫中心支持。
●远程医疗：披露健康应用程序或远程呈现机器人是否处于人类主动控制之下。
●媒体和娱乐：标记合成的、人工智能生成的内容，例如深度伪造视频。
●财务：让用户了解财务建议是自动化的还是人工主导的。
●社交媒体：识别人工智能生成的帖子或账户。

主要特点和优点

1.清晰的识别标记：
○在交互开始时出现的视觉图标（在屏幕上或物理显示在机器人/设备上）。
○电话或仅语音频道的音频免责声明。
○元数据“标签”可实现自动化工具检测和跨平台的可追溯性。

2.提高信任度和安全性：
○有助于防止恶意冒充企图，例如深度伪造诈骗或人工智能驱动的欺诈。
○通过明确对话背后是人还是机器，降低情感或心理伤害的风险。

3.降低监管和法律风险：
○协助组织遵守新兴的国家和国际人工智能披露法规。
○提供一致的标签方法，减轻企业创建临时透明度解决方案的负担。

4.增强的互操作性：
○该标准的元数据模型与 EXIF、XMP、DID 或 C2PA 等现有框架集成，以确保内容真实性。
○可能补充与人工智能伦理、安全和数据治理相关的其他标准。

5.跨行业适应性：
○足够灵活，适用于面向消费者的系统和更复杂、安全关键的环境（例如医疗机器人或大型企业平台）。

采用和影响

●当前采用者：越来越多专注于人工智能的组织和媒体正在尝试或试行此类“机构识别”标记，特别是在远程医疗或数字银行等高风险环境中。
●行业和社会效益：当人们能够自信地区分人机交互时，就能构建一个更加诚实可靠的数字生态系统。误解和操纵将变得更加难以发生。
●广泛应用的潜力：随着人工智能在主流应用中的持续增长，IEEE 3152 等标准可以成为行业规范，有助于建立对人工智能增强型产品和服务的广泛信任。

未来发展

●正在进行的修订：随着人工智能的快速发展，IEEE 3152 的未来迭代将完善“混合”系统的定义以及下一代沉浸式技术（例如增强现实）的强大标记。
●与新工具的互操作性：预期与加密水印、合成媒体的高级“指纹识别”以及新的监管框架（如欧盟或国家人工智能法）的集成将确保该标准的持续相关性。
●工作组：
○人类或人工智能交互透明度工作组领导核心开发，广泛代表学术界、工业界和道德界。
○C/AISC（IEEE 计算机学会人工智能标准委员会）负责协调与其他相关标准的更广泛协调，并与 IEEE 的全球网络保持联络，以保持标准的最新状态。

结论

在人工智能能够无缝模仿人类语音、面部表情和决策的时代， IEEE 3152是透明度的重要灯塔。它使我们能够识别交互背后的“谁或什么”，增强了人们对人工智能驱动通信的信任，并为更合乎道德、更负责任地开发新兴技术奠定了基础。

如果您希望探索IEEE 3152或在您的组织中采用它，请访问官方IEEE标准商店了解更多信息或购买已发布的标准。