负责任地利用人工智能需要广泛的监管框架

Shini Menon
Author: Shini Menon, CISA, CISM, CDPSE
Date Published: 21 February 2024

机器学习和人工智能技术塑造了我们当前的时代, 重要的是要注意,在该领域迫切需要监管干预. 这并不奇怪,尽管人工智能领域应该为人类问题的进步“做好事”, 所有的技术创新都有缺点. 虽然目前有几个人工智能系统的风险很小,但需要对它们进行评估. 世界各地已经起草和发布了几项法规/法案,以针对该技术的潜在风险.

而欧盟人工智能法案是最早起草的法规之一, the rest of the world, including China and the US, have not been too far behind. 欧盟人工智能法案的目标是管理与执法相关的系统风险, 教育和移民方面的规定,旨在对它们进行评估,然后再投入市场使用. 如果看看监管方面的影响, 不遵守规定的公司将被处以年营业额6%的罚款. 近20-25%的全球人工智能市场来自欧盟地区, so the EU AI Act cannot be ignored.

监管干预有助于人工智能系统及其对公众的影响,原因有很多. 首先,需要监管来保护用户及其数据的隐私. 对于数据量大的算法来说尤其如此,有可能消除偏见和歧视. 监管框架需要强制执行不故意注入偏见的机制,并确保消除自然发生的偏见. 还有人权和安全问题, 在哪里可以避免深度造假或不传播错误信息. Finally, 人工智能主导的发展不能垄断和偏袒某些澳门赌场官方下载,而忽视了大多数人的数据不用于训练算法.

随着监管干预的传奇开始, 世界各国政府需要合作,建立广泛的监管框架. 在开发机器学习技术和算法方面,也迫切需要教育和知识共享. In the current context, with respect to the EU AI act, 没有基础LLM(大型语言模型)符合其条款. 中国的监管侧重于内容控制,而不是过于关注风险. 这些框架需要具有包容性和适应性,并需要不时更新.

此外,我们知道法规、法案和法律往往不能适应不断变化的技术. 机器学习和人工智能是一个快速发展的领域, 新技术和新应用的出现速度比你想象的要快. New challenges, risks and opportunities continuously emerge, 我们需要保持足够的敏捷/灵活来处理它们. 对于管理机构来说,跟上发展和管理尖端技术可能是一项挑战. 随着人工智能监管框架的不断发展,这一点需要考虑在内.

Editor’s note: 想要进一步了解这个话题,请阅读Shini Menon最近在《澳门赌场官方下载》上发表的文章, The Potential Impact of New AI Regulations, ISACA Journal, volume 1, 2024.

ISACA Journal

Additional resources