守住产品底线防范人工智能作恶

“未来10—20年,AI技术将渗透至与人类密切相关的领域,比如医疗、司法、生产、金融科技等风险敏感型领域,AI技术如果犯错,就会造成较大系统风险。”2020年12月29日,在未来科学大奖周举办的“青年对话”活动中,清华大学计算机系长聘副教授、中国科协全国委员会委员崔鹏说。

活动中,腾讯科学技术协会秘书长张谦表示,面对AI技术所引起的风险问题,首先应该关注的是守住AI产品底线,即避免技术作恶。

2020年新冠肺炎疫情期间,英国用一套算法得出学生成绩,结果近40%的学生成绩低于教师的预估分数,导致很多学生与名校失之交臂。山世光说,有些人工智能模型或数据模型没有考虑到社会公平、优势累计恶果,导致看起来运算过程很严谨、结果很准,但却并不足以支持AI做出科学决策。

“徒法不足以自行。”郭锐坦言,法律本身也存在局限,规避AI技术潜在风险,需管理者对AI技术有透彻的了解,这样才能对其进行有效管制,“法律是建立包容性社会的重要工具,法律界要和企业、技术等方面专家合作,这样通过法律来对AI技术进行管理约束的目标才能达成。”

泰国公共卫生部近日表示,在对多个病例进行治疗与研究基础上,泰国治疗团队认为新型冠状病毒感染患者痊愈后体内可能存在病毒抗体,有望将其用于对其他患者的治疗。团队目前已从痊愈患者血液中提取免疫球蛋白,并对两名重症患者进行临床注射,期望能取得疗效。(据新华社)

治疗新冠方面是“慢热型”实力派

除了守住底线,与会者还提到,要厘清边界,引导技术向善。

“AI技术的风险治理需要科技工作者、企业管理者、政策制定者、相关法律专家以及投资人多方努力。”中科院计算所研究员山世光说。

法匹拉韦也是RNA依赖的RNA聚合酶抑制剂,不同的是,它本身是前药,需要在体内三磷酸化后才会发挥作用。

崔鹏指出,犯错并非AI特有的风险,人也会犯错。“但人犯错大多数可控、可预测。而目前AI技术犯错的话是不可预测的,或者犯错后人们会发现其犯错机制是无法从技术层面解释的。这涉及到AI在决策和行为上的边界问题。”

2月5日,《细胞研究》(《Cell Research》)发表我国学者的论文《伦地西韦和磷酸氯喹在体外有效抑制新型冠状病毒》,论文中提到研究团队对7种化合物进行了体外试验,从对细胞的毒性(安全性)、对病毒的抑制和对细胞的保护率(有效性)等方面进行了试验,研究结果显示均有效果。法匹拉韦就在其中。

谈及AI标准化的实践,中国人民大学法学院副教授、未来法治研究院社会责任和治理中心主任郭锐提到两个原则——人的根本利益原则和责任原则,“这两个原则的宗旨是让AI的决策和行动尽可能通过人的干预来避免对人的伤害”。

郭锐认为,目前AI遇到的伦理问题,实际上是因为它远未达到人类智能的程度,却已被赋予为人类做决策的责任,“还有人把AI技术当作借口,用科学的名义做不符合伦理的决策,这样做是不对的。需要人决策的地方应该由人决策”。

在药物研发方面,世卫组织助理总干事玛丽-保罗·基尼介绍说,目前针对新冠肺炎的候选药物都是之前用于其他疾病的药物,科研人员正尝试改进这些药物以加快用于临床试验。其中,美国雅培制药公司的抗艾滋病病毒药物洛匹那韦和利托那韦复方制剂克力芝、美国吉利德科技公司研制的瑞德西韦两种药物已进入临床试验。

公告称,法匹拉韦获得了《药品注册批件》即上市批件,其适应症为:用于治疗成人新型或再次流行的流感(仅限于其他抗流感病毒药物治疗无效或效果不佳时使用)。国家药监局附条件批准法匹拉韦的生产,要求上市后继续完成尚未完成的药学方面和临床药理方面相关研究,完成后向国家药品审评机构及时报送研究结果。

2月16日,浙江海正药业发布的《关于获得药品注册批件和药物临床试验批件的公告》显示:海正药业收到国家药监局核准签发的法维拉韦片(又称:法匹拉韦片)的《药品注册批件》和《药物临床试验批件》。

山世光称:“说到底,我们还是希望AI技术能得到健康发展,满足对科技真、善、美的追求。”

日本方面经过周密的考察和评估,特别是对国家应急防控药物工程技术研究中心成功开发抗流感系列药物的基础和对海正药业国际化能力的高度认可下,最终该公司把法匹拉韦在中国的专利权全权授予海正药业,并在首届中日第三方论坛上在中日总理的见证下签署合作协议推进法匹拉韦的临床应用。

“法匹拉韦之前是一个抗流感药物,我们在塞拉利昂用它做过抗埃博拉出血热的临床试验,它展现出很好的抗埃博拉病毒的效果。”钟武解释,这个药物原来属于日本富士胶片公司,看到我国能够发展更大的市场和拓展在广谱抗病毒方面的新适应症,因此前来和国内科研机构和企业寻求合作。

新冠肺炎疫情仍在持续,除中国外,全球还有多个国家和地区已报告感染病例。世界卫生组织总干事谭德塞日前在新型冠状病毒全球研究与创新论坛上表示,新型冠状病毒疫情对全球在政治、资金以及科学领域的团结都是考验。

抗病毒药物研发往往需要漫长的周期,目前尚无针对新型冠状病毒的特效药。谭德塞指出,当下必须竭尽全力使用现有“武器”来对抗这一病毒,同时为长期斗争做准备。

星界资本管理合伙人方远认为,各大核心数据平台处于AI风险管理的重要位置,“在互联网和大数据时代,大平台是数据的采集者也是守护者。务必要对数据使用权做出清晰界定,这对整个社会的AI发展有重要意义”。

“法匹拉韦此前没有在我国上市,这是它作为抗流感药物在我国第一次获批。”钟武说。

钟武介绍,法匹拉韦在体内需要三磷酸化才能作为竞争性底物与RNA聚合酶作用,这也是在前期的抗冠状病毒体外试验中,法匹拉韦“表现平平”的原因,但其临床效果或许会有不俗的表现。

科学家一直希望找到广谱抗病毒药物,针对病毒的侵染或者扩增必需的酶是广谱抗病毒药物的筛查和开发主要路径之一。

“流感病毒与新冠病毒同属于RNA病毒,因此在阻断RNA合成方面,法匹拉韦可能对流感病毒、埃博拉病毒、新冠病毒都有效。”钟武认为,综合考量,作为上市药物,法匹拉韦目前在安全性、有效性、质量保障以及可及性方面都更有优势。

法匹拉韦的“前世今生”

与新冠病毒“过招” 全球共同战“疫”

近日,参与论坛的全球科研人员经过两天的讨论,认为短期研究重点应集中在研发更简易的确诊手段、为住院患者提供最佳治疗方案、有关流行病学研究等方面,而将研发疫苗和治疗药物作为中期研究的主要目标。

科技日报记者在此前的采访中了解到,科研攻关组组织深圳市第三人民医院开展了临床研究,入组26例,其中普通型25例,重型/危重型1例。目前看来,法匹拉韦尚未发现明显的副作用,患者依从性好;对发热患者退热作用较好,服药后两天内退热率达72%;3天内肺部影像学好转率38%,6天内肺部影像学好转率70%。

日前,科研攻关组组织深圳市第三人民医院开展了法匹拉韦针对新冠肺炎的临床研究,入组26例,其中普通型25例,重型/危重型1例。目前看来,法匹拉韦尚未发现明显的副作用,患者依从性好;对发热患者退热作用较好,服药后两天内退热率达72%;3天内肺部影像学好转率38%,6天内肺部影像学好转率70%。

相关公告明确显示,法匹拉韦的上市批件的适应症是流感,同时批准了该药物作为新冠肺炎的临床试验用药。

那么两个批件有什么关系呢?有分析认为,法匹拉韦获批上市,可供临床专家小范围同情给药治疗新冠肺炎,如果临床试验表明法匹拉韦对新冠肺炎有效,将可更快惠及患者。

有专家表示,这并非AI技术的错。夏华夏说,真正应承担社会责任的是使用AI技术的人、企业等。AI技术向善需要社会整体文明发展到一定阶段,形成良好氛围。张谦则提到,技术并不可怕,可以通过技术进一步发展解决技术存在的问题。

在这方面,美团首席科学家夏华夏认为,法律法规方面需要做大量工作,包括制定AI行业的标准、规范,以及从国家层面完善、出台相关法律法规,从而对AI技术发展进行把控。

同时,法匹拉韦还获得的《药物临床试验批件》,经特别专家组评议审核,应急批准本品进行临床试验。适应症为新型冠状病毒肺炎。

2月16日晚,有媒体报道:全国首个潜在治疗新冠肺炎药物法匹拉韦获批上市。乍一看标题,很多人会以为新冠肺炎有对症药物获批上市了,但事实并非如此。

厘清边界具体包括AI需要明白它会什么、不会什么,以及人需要明白AI什么事能做、什么事不能做等问题。崔鹏认为,如不厘清边界,AI还会犯更多低级错误,带来更大风险。

“这个药批准的是流感适应症而不是新冠肺炎,标题产生了误导。”国家应急防控药物工程技术研究中心研究员钟武告诉科技日报记者:“法匹拉韦目前仍处于临床试验阶段。”

美国北卡罗来纳大学医学院全球卫生和传染病研究所主任迈伦·科恩认为,目前对确诊患者主要采取的是支持性治疗,当务之急是找出最优支持性治疗方案。