(2022年8月30日,北京)近日,商汤科技在可信AI领域的建设再获权威认可,AI训练、算法评测、伦理治理等方面工作均斩获得权威奖项。 其中,商汤科技AI训练平台(AutoLink)荣获人工智能产业发展联盟(AIIA)“可信AI平台应用标杆案例”奖,伦理治理体系、算法评测工具,获“可信AI实践优秀案例”奖。
“可信AI”评测体系自 2018 年起建设以来,逐渐成为国内人工智能的权威评测体系,并已成为政府支撑、用户选型、企业智能转型的重要参考。
一直以来,商汤积极参与国内外各项推动AI可信的工作中,获得了大量成果与实践经验。这些奖项是对商汤实践的有力认可,商汤也将持续发展负责任、可评估的AI技术,助力经济社会数字化转型。
多维共筑 推动AI可信应用
当前,AI应用的广度和深度不断拓展,正在成为信息基础设施的重要组成,但在此过程中,AI技术也暴露出一些风险与隐患。
比如算法安全、算法歧视、不可控、不可解释等,可能导致AI在医疗诊断、金融、司法等行业的应用中,出现算法“偏见”、“失效”、“黑箱”等问题。对算法进行功能、性能、安全性、伦理等方面的评测势在必行。
对此,商汤科技一直主动承担算法开发者的主体责任,倡导发展“负责任且可评估”的人工智能,从多个维度,打通技术研发与安全管理、伦理审核的壁垒,强化了AI技术的可信应用。
从研发的初始阶段,商汤便将可信AI融入其中。在规模化模型生产中,商汤自研了高度自动化的深度学习训练平台(AutoLink),该平台定义了全新的标准化训练表达,自研了训练任务图执行引擎、训练资源可视化引擎、训练开发套件、高效安全的模型及代码管理、高精度自动训练等技术能力,提供出一套专业的AI开发可信平台。
在技术测评中,商汤通过算法测评工具,在产品研发的关键节点对算法运行性能、鲁棒性、算法后门等指标进行检测评估,基于真实场景下的数据集算法验证与评测,提升算法及模型的可信能力。
此外,对于技术应用可能带来的社会影响,商汤通过加强AI伦理治理体系建设,推动全员共同参与,实现健康可持续发展。
商汤提出“可持续发展、以人为本、技术可控”三项伦理原则,并基于此,在AI伦理治理方面采用多维度的治理策略,包括组建AI伦理与治理委员会、构建人工智能伦理与治理风险控制机制、积极制定AI伦理标准等。
针对产品及相关解决方案研发全生命周期的关键节点,商汤建立了AI伦理审查程序,通过可描述、可操作、可评价的方式,推动AI伦理的价值观渗透到生产过程的各个环节。
可信人工智能是AI工程化应用的必经之路,商汤在坚持原创的同时,将积极探索“技术标准化、标准产业化”的可信路径,打造具有产业标杆的解决方案。