文 | AI國際站 唐恩

編 | 艾娃

本文由AI國際站 原創出品，未經許可，任何渠道、平台請勿轉載，違者必究

在越來越強大的自治和智能系統（A / IS）時代，行業如何保持對客戶的信任？組織幾乎沒有任何方法可以可靠地與客戶（甚至是自己的員工）進行溝通，以確保其操作和使用A / IS的可靠性。在沒有這種方法的情況下，對A / IS的恐懼，不確定性和懷疑常常變得不知所措。

展望未來，對人工智慧和A / IS 的意外後果以及缺乏信任的擔憂可能會阻礙革命性技術的發展，而革命性技術的發展具有巨大而深遠的潛力，造福全人類，其應用領域包括改善疾病預防和診斷，農業和製造業效率，應對氣候變化，增強安全性……甚至有助於解決全球COVID-19危機。

由全球公認的獨立專家組成的專家對共識標準的認證將是至關重要的，有意義的工具。業界迫切需要通過公開可用和透明的一系列標記輕鬆直觀地傳達其A / IS是否被視為「安全」或「受信任」的信息，這就是IEEE制定了《自主與智能道德認證計劃》的原因。系統（ECPAIS）於2018年10月發布。

ECPAIS是全球首批致力於創建A / IS認證標準和標記計劃的計劃之一，並獲得了全球標準制定組織的支持。ECPAIS已圍繞A / IS開發中的透明度，問責制和減少算法偏差創建了認證標準是。該標準旨在使醫療保健和醫療設備，金融服務，汽車，製造業，老年服務等各種垂直行業中的城市以及公共和私人組織能夠確定自己在A的開發和運營中是可信賴的並從中受益的。 / IS產品，服務和系統。

現在，ECPAIS正在向前發展，以邀請全球各地的其他推動者和創新者在其特定環境中使用ECPAIS標準，為在A / IS的總體設計框架中應用奠定基礎，並在企業對消費者中建立可信賴的已部署系統，商業和政府環境。

聚焦全球

在全球範圍內，人們對算法如何塑造社會，影響人們以及改變權力行使方式的問題越來越關注。反過來，A / IS的治理已成為越來越重要的領域。

例如，在2019年3月，IEEE自治和智能系統倫理全球倡議（A / IS）發行了出版物《倫理統一設計》第一版（EAD），這是由600多位全球專家概述的全面深入的文檔超過100條具體建議可指導A / IS的設計，開發，部署和使用。EAD還啟發了教育計劃的創建，IEEE內的多個標準工作組，世界上最大的致力於為人類造福技術的技術協會以及ECPAIS本身。

2019年9月，世界經濟論壇發布了AI的公共採購指南，以幫助政府維護公共利益和福祉。「人工智慧具有以新的方式極大地改善政府運營和滿足市民需求的潛力，從交通管理到醫療保健再到處理稅收表格，」人工智慧採購指南寫道。「但是，政府通常缺乏獲取現代AI解決方案的經驗，許多公共機構對利用這一強大技術持謹慎態度。總體而言，該指南旨在指導與採購生命周期有關的所有各方（政策官員，採購官員，數據科學家，技術提供商及其領導人）朝著維護公共利益和福祉的總體目標邁進。」

同樣，歐洲委員會於2020年2月19日啟動了人工智慧諮詢，發布了白皮書《人工智慧-歐洲追求卓越和信任的方法》。白皮書寫道：「鑒於AI可能對我們的社會產生重大影響以及建立信任的需求，歐洲AI必須以我們的價值觀和基本權利（例如人的尊嚴和隱私保護）為基礎至關重要。」

白皮書還指出，必須對高風險AI應用程式中的培訓數據，數據，透明度，健壯性和準確性以及人工監督進行「客觀，事先的合格評估，以驗證並確保」是否符合要求。「先前的合格評定可能包括測試，檢查或認證的程序。它可能包括檢查在開發階段使用的算法和數據集。」

出於這種全球共享的需求，IEEE在2018年10月啟動了行業驅動的ECPAIS計劃。ECPAIS工作的第一年集中於定義認證標準：

• 問責制標準，用於解決諸如組織在使用中的A / IS聲明的細節之類的問題，包括跟蹤系統或產品行動，風險參數以及人員如何監督和控制A / IS；
• 透明性標準，用於解決以下問題：公眾對組織內的A / IS交互和使用中的A / IS的意識，對A / IS系統行為的信心以及對道德操守和運營概念的明確性的維護，以及
• 與減少算法偏差相關的標準，評估產品或系統中算法偏差的可接受性，並提供減少或避免不可接受水平的見解。

如今，ECPAIS社區正在擴展，以鼓勵感興趣的實體針對標準的實際應用採取下一步關鍵步驟。邀請全球的公司，政府和其他利益相關者與IEEE聯繫，以倡導ECPAIS行業垂直計劃，發起概念驗證或幫助塑造ECPAIS標準在A / IS使用中如何特別尊重以人為本的價值觀。全球的最終用戶和利益相關者。

最終，公司和公共組織將能夠利用ECPAIS向其客戶，員工和公眾展示其建立對自己的A / IS的信任的承諾-經獨立第三方的驗證。政府可以使用認證標準來指導政策，並提供一種面向公眾的解釋性形式。教育工作者可以使用ECPAIS來培養更加注重道德的下一代工程師，領域專家和決策者。

建立信任，施加壓力

在ECPAIS在自主智能系統的重要倫理領域中正在發展的領域中，我們看到了巨大的價值。維也納市擁有的奧地利最大的公共基礎設施提供商Wiener Stadtwerke的數據科學家Dietmar Schabus博士在2020年2月26日的IEEE標準中說，我們認為該計劃的第一階段的結果非常有希望。協會新聞稿。作為一個高度以人為中心和數字化能力的城市，我們認為有關A / IS道德方面的工作（例如ECPAIS）是該策略的基礎。

對於那些已經在盡責盡責的A / IS方面進行盡職調查的組織，認證將為建立與利益相關者的信任提供了非常需要的工具。對於那些正在努力保護公民數據，保護隱私和尊嚴以及維護人權的組織而言，認證將加大市場壓力，以認真應對算法時代最緊迫的挑戰。