消費(fèi)者技術(shù)協(xié)會(huì)(CTA)表示，人工智能的一些問(wèn)題(例如黑匣子問(wèn)題)在應(yīng)用于醫(yī)療保健時(shí)可能會(huì)使人們“懷疑”該技術(shù)，該協(xié)會(huì)發(fā)布了確定人工智能的核心要求和基準(zhǔn)的標(biāo)準(zhǔn)解決方案被認(rèn)為是值得信賴的。

CTA總裁兼首席執(zhí)行官加里·夏皮羅(Gary Shapiro)在一份聲明中說(shuō)：“人工智能正在提供解決方案-從診斷疾病到先進(jìn)的遠(yuǎn)程護(hù)理選項(xiàng)-應(yīng)對(duì)醫(yī)療保健最緊迫的挑戰(zhàn)。”“由于美國(guó)醫(yī)療保健系統(tǒng)面臨臨床醫(yī)生短缺，慢性病和致命的大流行，因此至關(guān)重要的患者和醫(yī)療保健專業(yè)人員相信這些工具的開(kāi)發(fā)方式和預(yù)期用途。”

該標(biāo)準(zhǔn)涵蓋了三個(gè)方面的可信賴性：人類信任，技術(shù)信任和監(jiān)管信任。根據(jù)標(biāo)準(zhǔn)，第一個(gè)處理AI開(kāi)發(fā)人員和用戶之間的信任。開(kāi)發(fā)人員應(yīng)確保弄清楚系統(tǒng)可以做什么和不能做什么，系統(tǒng)可以執(zhí)行的性能如何以及將系統(tǒng)的功能置于上下文中。

技術(shù)信任與AI系統(tǒng)的工作方式有關(guān)，即使偏差最小化，數(shù)據(jù)安全且私密，遵循HIPAA要求，并且用于訓(xùn)練AI系統(tǒng)的源數(shù)據(jù)就是好數(shù)據(jù)。監(jiān)管信任涵蓋了監(jiān)管機(jī)構(gòu)感興趣的主題，包括數(shù)據(jù)隱私法，F(xiàn)DA和FTC法規(guī)，州醫(yī)療委員會(huì)和其他法律。

該標(biāo)準(zhǔn)概述了模型開(kāi)發(fā)人員必須遵循的許多要求，以便滿足每個(gè)級(jí)別的可信賴性。它由CTA召集的60多個(gè)組織創(chuàng)建，并獲得ANSI認(rèn)證。CTA發(fā)起了一項(xiàng)有關(guān)醫(yī)療保健AI的倡議，并且在過(guò)去兩年中，其醫(yī)療保健人工智能工作組的成員數(shù)量增加了一倍，達(dá)到64個(gè)組織和成員公司。根據(jù)一份新聞稿，該標(biāo)準(zhǔn)代表著重于實(shí)施基于AI的醫(yī)療和保健解決方案的系列文章中的第二篇。

飛利浦全球軟件標(biāo)準(zhǔn)法規(guī)負(fù)責(zé)人，工作組聯(lián)合主席Pat Baird表示：“建立這些信任基礎(chǔ)代表著AI在醫(yī)療保健中的應(yīng)用邁出了一步。”“人工智能可以幫助護(hù)理人員減少花在計(jì)算機(jī)上的時(shí)間，而將更多的時(shí)間花在患者身上。為了到達(dá)那里，我們意識(shí)到需要不同的方法來(lái)獲得不同人群的信任，而支持AI的解決方案需要使我們的客戶，患者和整個(gè)社會(huì)受益。”