随着人工智能在全球社会中越来越受欢迎，人们越来越关注如何开发这些系统。
进入算法审计师的角色，这个职位需要检查产品是否存在任何潜在的缺陷或偏见。
这是企业必须认真对待的任务：欧盟的《人工智能法案》要求对社会影响更大的模型符合更高的风险管理标准。
美国总统乔·拜登关于人工智能的行政命令包括一项条款，要求开发者与政府分享他们的红队结果，以识别任何潜在风险。
这就是国际算法审计师协会今年年底成立的背景。该组织由技术伦理领域的一群领导者创立，旨在通过提供资源、培训和最终的认证标准，成为审计师的中心枢纽。但它也希望在制定公司在开发人工智能治理项目时必须考虑的审计政策方面发挥作用。Eticas Consulting的创始人兼首席执行官、IAAA的主要成员之一Gemma Gladon Clavell表示，去年，当她注意到许多政策制定者正在围绕人工智能讨论类似的主题，但没有相互交流这些相似之处时，建立协会的必要性变得显而易见。她和其他一些成员聚集在巴塞罗那和布鲁塞尔，与这些利益相关者会面，他们鼓励他们建立一个可以咨询的正式机构。她说：“我们看到的一件事是，很多人为公司提供这些人工智能治理平台进行整合，他们通常以多种不同的方式工作。他们中没有一个人受到任何形式的外部控制的约束，甚至我们的一些客户都会说，‘我们投资了这个平台，它应该做偏见识别’”。Gladon Clavell继续说道：“因此，如何组织和创造激励，以更好地进行会计和记账，以及更好地记录人工智能流程，所有这些都还不存在。”“因此，审计界，我们可以在整个行业创造这些激励措施，让事情做得更好，这样当我们进来检查时，我们就可以验证这些事情做得很好。”公司内部经常进行审计，以确保遵守法规。但Babl AI的创始人兼首席执行官、IAAA的另一位核心成员Shea Brown表示，这些评估通常有一个以内部为重点的目标，旨在保护公司。他说，相比之下，算法审计则侧重于外部。如何学习审计、风控与合规？学习CIPM课程，适用于风险管理、隐私操作、审计、隐私分析、职责划分等相关的从业人员。
IAPP CIPP CIPM CIPT全套资料免费下载
他说：“监管机构、公众和每个人都要求这些系统不要伤害公司外部的人。我们关心这种算法是否会伤害人们或社会。”随着公众对人工智能，特别是生成系统，如何被用来传播虚假信息或放大对边缘化人群的偏见的担忧，对问责制的需求越来越大。毕马威咨询公司和澳大利亚昆士兰大学进行的一项国际调查发现，3/5的受访者对信任人工智能系统持谨慎态度，尽管3/2的人也对人工智能系统可以改善他们的生活持乐观态度。皮尤研究中心发现，人们越来越担心人工智能在美国的使用，大多数人都认为这会对个人隐私等领域产生负面影响。IAAA特别专注于为人工智能制定道德标准。它推广阿达·洛夫莱斯研究所和研究组织数据与社会的资源，这两个组织都关心如何公平使用数据和人工智能，并改善社会。Eticas和Babl AI都提供人工智能偏见审计服务。这些第三方审计服务将是IAAA的主要关注点，但Gladon Clavell表示，该组织也将成为自由职业者和内部审计师的资源，希望使该行业专业化。这意味着也要提供一个执行机制，比如对不遵守既定标准的成员进行调查。我是否适合做审计？是否能学合规？学习IAPP课程并得到业内的专业认证的认可，我是否满足考试资格？戳戳下方立即评估！
IAPP国际隐私证书考试资格评估
她说：“就像我们不希望疫苗没有经过临床试验一样，我们也不希望人工智能系统没有经过审计。我们需要确保审计过程有助于这些系统更好地造福社会。”文章整理于iapp.org，由隐私合规交流圈 隐小私整理，转发请备注出处
*整理编辑：A隐小私(yinxiaosi00)
