会计师看时事／AI风险治理五大关键
2024-03-15 经济日报陈威棋
人工智慧（AI）。路透
近期随着人工智慧技术发展日趋成熟，企业对发展人工智慧已开始实际应用，根据Deloitte人工智慧研究院「企业人工智慧应用现状分析报告」调查显示，94%的受访企业领导者表示人工智慧在未来五年内对其企业成功至关重要，另外50%的受访者提出人工智慧相关风险管理是企业扩大人工智慧专案规模的最大障碍之一，尽管如此，却仅有33%的受访者将人工智慧风险管理纳入企业整体风险管理范畴。
虽然人工智慧领域正在快速发展，但它仍然处于萌芽阶段，存在着许多风险，其中包括信任侵蚀、偏见和歧视、数位科技风险以及资料保护议题。由于人工智慧的复杂性和自主性愈来愈高，存在着似是而非的结果、刻意伪造和不确定性等问题，若无法有效解释其内容，将破坏客户对使用人工智慧的信任。
此外，缺乏防护和监控措施可能导致人工智慧产生歧视或偏见结果；同时，人工智慧需要依赖大量数据来完成任务，若没有建立有效的数位科技安全和资料保护机制，可能面临模型开发安全性和资料外泄等问题。这些是企业需要重点关注和解决的问题。
引入人工智慧技术应用时，建议企业应同步建立全面的人工智慧风险治理框架，并制定相应的政策和程序，以确保有效管理和监控相关活动，包括确定治理目标和原则、明定权责及政策、订定人工智慧风险评估策略、明定模型生命周期要求及设置相对应监测及检测机制，主要关键要素说明如下：
一、建立人工智慧治理框架：企业应制定一个全面的人工智慧治理框架及相对应的管理政策及规范，其中包括明确的可信任人工智慧原则（如透明性和问责性、公平性、稳健性、隐私保护和资料安全），建立资料治理机制以确保资料品质和准确性，建立模型测试和验证机制及定期评估和改进治理框架有效性。
二、影响冲击评估和风险分析：收集企业内部相关的人工智慧案例，并以风险为导向进行管理原则之设计，透过识别风险、风险分类分级、对高风险人工智慧应用场景进行控管措施规划。
三、遵从可信任人工智慧原则：在发展人工智慧应用系统和模型时，采取相关开发、测试和评估方式，以确保其符合人工智慧可信任原则。
四、监控和持续改进：企业应建立监控机制，定期监测人工智慧系统的运行情况，并及时识别和应对潜在的问题和风险。
五、查核机制：建立查核程序，透过制定具体的查核标准和指标，评估人工智慧应用系统的合规性。
（作者是勤业众信风险咨询服务资深执行副总经理）
