新闻资讯

2025年5月13日，医疗大模型开源评测社区上线发布会暨研发与应用安全培训会在上海模速空间圆满举办。此次活动由上海市卫生健康委员会及中共上海市委网络安全和信息化委员会办公室指导，上海人工智能实验室主办，上海市徐汇区卫生健康委员会协办，华为技术有限公司承办。上海市卫生健康委员会副主任罗蒙、上海人工智能实验室主任助理石伯明及上海市委网信办网络技术处处长施敏出席并致辞，共同启动医疗大模型开源评测社区运营。上海市各医疗机构分管领导、专家及医疗大模型企业代表等近百人参会。北京道可特（上海）律师事务所高级合伙人潘跃海律师作为活动唯一受邀律师参加并做主题分享。

活动伊始，由上海人工智能实验室医疗与评测负责人徐捷作《医疗大模型评测体系及开源社区介绍》主题分享。她阐述了医疗大模型评测体系和开源社区。徐捷强调了智能发展与治理并重的“评训并进”理念，首次提出了涵盖11类伦理议题与9项安全管理维度的医疗伦理与安全框架，她还开源了医疗文本推理、伦理和安全的训练数据，并推动了“语料开源-模型评测-安全应用”的全流程闭环，以促进医疗大模型的安全有序发展。

发布会后，医疗大模型研发与应用安全培训会正式开启。上海人工智能实验室青年科学家刘东瑞作《AI内生安全能力建设-从安全评测到内生安全》主题分享。他强调，尽管目前AI技术尚未带来极端风险，但各界普遍认为随着模型能力增强，风险也会增加。因此，AI的发展必须同时注重性能和安全，这也是指导实验室未来研究的重要原则。 

上海互知光科技有限公司副总经理刘刚作《医疗大模型网络安全博弈：机遇与风险的平衡之道》主题分享。他以国家卫健委发布的《卫生健康行业人工智能应用场景参考指引》为切入点，明确了4大分类的84个AI应用场景。在实践中，大模型面临多种安全风险。他建议加强完善大模型安全防护，完善模型全流程保障，重视内容全过程审查和建立合规运营支撑。

上海交通大学附属第九人民医院小儿斜视负责人李琳作《守护边界：AI赋能儿童视觉健康的应用安全之路》主题分享。她通过实践案例分析，深入探讨了AI在儿童视觉健康中的应用为筛查和治疗眼病提供新视角。近视作为儿童常见眼病之一，通过AI技术进行预测、筛查、风险评估，在个性化管理与随访中展现了广阔的应用前景。她提倡构建一个“可控、可信、可持续”的生态体系，并倡导多学科协同合作，打造以儿童为中心的AI服务闭环。

上海库帕思科技有限公司助理总裁胡茂密作《无数据，不模型：医疗语料的质量与安全挑战》主题分享。他概述了医疗领域应用大模型的五步策略，同时针对医疗语料之困，他为大家详细介绍了医疗大模型语料工具链平台及语料重点攻关技术方面的创新成果。

华为技术有限公司盘古医学大模型总监祝晓庆作《向上攀峰向下赋能，华为助力医疗行业AI安全可信发展》主题分享。她详细介绍华为的医学行业解决方案通过在芯片、数据和模型三个层面解决医疗难题，提高效率。华为利用自主知识产权的矩阵式算力，降低了对计算资源和数据规模的依赖，为医疗行业提供了一个稳定、可靠、安全的平台。在改变医疗服务方式同时改善了患者体验，提升诊疗技术，促进医学领域发展。 

我所潘跃海作《人工智能在医疗领域应用的法律风险探析》主题分享。潘律师从不同法域对人工智能的法律定义指出，人工智能的发展愈来愈注重与客观环境的交互，从法律专业视角对人工智能在医疗卫生领域的应用进行了深入风险分析，涵盖了数据隐私与安全问题、医疗过错与责任归属、知识产权风险、算法偏见与歧视现象、以及伦理与透明度问题。同时，潘律师对上述风险提出了针对性的解决策略和专业化建议。最后潘律师分享了道可特作为“博士级的法律医生”在法律服务领域制定人工智能指引的一些思考。

在最后的圆桌论坛环节中，医疗临床专家、技术企业家等共聚一堂共同探讨医疗，通过结合医疗大模型的应用和研发经验，系统地总结了人工智能在医疗领域的应用方法，并直面转型过程中的问题和挑战，为医疗AI的发展提供了切实可行的解决方案。

本次医疗大模型开源评测社区上线发布会暨研发与应用安全培训会的成功举办是医疗领域发展的新起点。未来，道可特也将以法律之力，持续关注和研究人工智能在不同应用领域的发展，在各方的共同努力下，参与构建起一个更为安全可靠、开放创新的包括医疗大模型在内的人工智能生态系统，使科技进步真正地促进产业发展。