加强AI深度伪造欺诈管理
2025-03-04
近期，人工智能技术发展备受关注，今年全国人大代表，TCL创始人、董事长李东生还针对这一话题提出代表建议。一方面，生成式人工智能技术的进步给各个领域带来机遇，另一方面，AI深度伪造内容侵权现象愈演愈烈，欺诈事件频发。针对AI深度伪造内容管理问题，近年来，我国相关立法虽有关注这一议题，但已出台的规章制度还不具备可操作的细则和明确的处罚标准。
对此，他提出了四点具体建议：一是加快人工智能深度合成内容标识管理规章制度的出台。二是明确对人工智能深度合成服务商未履行标识义务的惩罚制度，完善未按要求进行标识的行为界定、分类细则，以及相应的处罚标准。三是加强深度合成内容标识技术标准和发布的管理，保证标识的有效性，对相关内容平台出台要求，用户在发布深度合成的视频、音频等内容时，有义务对其进行标识。四是加强国际合作，形成人工智能生成合成内容的有效监管。
