

马斯克在X平台发文鼓励用户上传个人医疗影像数据,目的是让马斯克旗下xAI公司可以用来训练Grok模型
背景图片取自/Pawel Czerwinski on Unsplash
科技大亨马斯克本周公开要求X用户上传其健康数据,以便帮忙训练Grok AI判读病症的AI模型,用户也踊跃回应。
马斯克本周通过X公布他另一间公司xAI发展Grok的开发进展。他要求用户上传X光片、MRI(断层扫瞄)、PET(正子断层造影)或其他医疗影像到Grok试用其分析。马斯克说Grok现在还在开发初期,但已经相当准确,而且之后会变得非常厉害。
以AI辅助医师从断层扫瞄、X光片等医学影像判读病症,是现今AI在医学界的主要应用。健康信息是高度敏感的信息,一般AI模型开发商必须遵守严格的隐私和数据保护要求,包括如何使用或存储,才能取得临床数据,且数据还必须经过匿名化进程才可用于AI模型训练。像马斯克公开要求用户上传自己的医学影像帮助自家AI开发,不是完全无知,就是藐视数据隐私权。
更令人惊讶的是,许多用户竟然也欣然配合。评价好坏参半:有用户赞扬Grok正确诊断出用户有脑瘤,但也有用户反映,Grok将其锁骨骨折误判为肩膀脱臼。
如同其他AI模型,Grok现在会误判可想而知,但专家更在意的是数据隐私风险。一名专家指出,在美国,病患信息的使用受到《美国健康保险流通与责任法案》(HIPAA)保护,但是HIPAA仅规范了少数实体,包括医院和保险公司。X并不在HIPAA规范之列。虽然X的隐私政策提及不会出售用户数据给第三方单位,但是却说会将信息分享给「相关公司」。
专家提醒,用户健康信息外泄,可能被用于广告、行销宣传,或造成就业或保险的不平等待遇,若信息不慎外泄到歹徒手上,则可能引发钓鱼信件或其他网络攻击。