技术支持共创多模态医疗大模型部署落地
技术支持共创多模态医疗大模型部署落地
AI大模型中国科学院香港创新研究院

技术支持共创多模态医疗大模型部署落地

CARES Copilot模型系统将智能医疗设备与AI技术紧密结合,强调可信性和可解释性,并且对部署平台的安全性和稳定性有极高的要求。香港创新研究院找到增长超人,希望我们在其语言模型的基础上,完成C端用户的使用平台部署。
增长超人
增长超人
GrowthMan
2024年02月20日
3分钟阅读时长
  • 项目背景


    CARES Copilot是中国科学院香港创新研究院(以下简称“香港创新研究院”)开发的面向医疗领域的AI多模态大模型。在医学多场景、多任务的理解与处理方面取得了显著的进展。


    CARES Copilot提供了多项功能,它结合了广泛的大模型知识和专业精准的小模型,能够进行高级图像和视频语义提取,并利用语言模型进行深度理解,包括手术风险评估和手术阶段的详细分析。


    CARES Copilot模型系统将智能医疗设备与AI技术紧密结合,强调可信性和可解释性,并且对部署平台的安全性和稳定性有极高的要求。香港创新研究院找到增长超人,希望我们在其语言模型的基础上,完成C端用户的使用平台部署。




    项目问题:


    CARES Copilot用户平台是一款领域细分的专业级语言大模型问答平台,平台支持文本、语音、图片等多模态输入,一方面注重部署平台的稳定性和安全性,另一方面需要考虑到用户的实际使用体验。


    尽管没有CARES Copilot大模型本身的研发复杂,CARES Copilot用户使用平台的最终部署,同样对技术的要求也非常高,在大语言模型和医疗行业的双重加持下,CARES Copilot的C端部署平台,安全考虑和稳定运行是需要时刻放在首位的;


    另外,CARES Copilot的C端使用平台,定位为医护人员的AI助手,强调可用性和易用性,能够结合医护人员的逻辑习惯,方便医护人员上手,帮助更好完成日常中的工作。



    项目介绍


    更具实用性的入口元素,增强用户使用信心


    在解决技术层面的问题之前,我们必须考虑:作为一款面向医护人员用户的模型平台,我们该如何让普遍没有接触过AI领域的医护人员,有信心能轻易上手CARES Copilot模型系统。


    仅仅创建一个用户平台是没有用的,特别是对于专注力更集中的医疗行业,因为医护人员无法确定自己是否真的能够无需付出较大的学习成本,就能上手这个助手平台。如果我们无法告诉用户,我们该如何上手这个工具,那么用户将永远被挡在外头。


    因此我们帮助香港创新研究院在平台的入口,构建了一个轻量而又更具实用性的介绍属性首页,包括实景演示、使用场景、技术优势、品牌背书等,提高用户对平台使用的信心。




    从实际使用场景出发,配置高适用性功能


    作为一个敦本务实的开发团队,我们希望我们所构建的项目也能如我们所主张“以用户为中心”的那样恰如其分。我们发现,尽管医疗行业专业程度极高,专有名词非常多,但部分医护人员并没有非常空闲的时间花费在文本的输入上,并且时常需要有医疗附件来辅助需求的输出。


    考虑到医护人员的工作需求,CARES Copilot用户平台携带了语音输入功能,能够优先并且识别医疗相关的语音话题。除了文本和语音,平台也支持图片、视频、文档、压缩包等附件的输入,极大提高平台的实用属性。


    另外,我们为平台加入了文献参考功能,当用户接收到系统的答案时,界面右侧会同时输出系统所给答案的参考文献,提升用户对平台信心的同时,也方便用户拓展思维。除此之外,平台也支持查看历史记录及导出聊天记录,提升平台的实用性。总而言之,我相信这样一个从实际场景出发的医疗AI模型平台,一定能协助医护人员更加高效地解决日常工作。




    添加API风控技术,确保平台安全性


    安全性一直是CARES Copilot用户平台需要解决的重点问题,我们通过实施访问控制、调用频率限制、输入验证、数据加密、监控日志记录、API接口版本管理,以及及时响应安全威胁的策略,有效减少API接口的安全风险和防范潜在的攻击。同时限制接口的请求频次,预防恶意刷屏。




    设计平台使用机制,提高平台使用稳定性


    作为香港创新研究院的重点AI项目,稳定性一直是主创人员的痛点问题,我们无法让用户自发去了解并执行维护项目稳定的工作,但服务器负载问题离不开用户的协助。为了帮助香港创新研究院解决这个难题,我们在用户的使用过程中加入了一些机制,让用户更好地使用这个平台,比如多用户使用时的排队机制,以此形成一个缓冲,帮助服务器减轻负载压力;单用户请求过多的保护机制,当同一用户短时间内请求次数过于频繁时,系统将会触发保护机制,以达到减轻服务器压力。


    我们同时也为主创人员构建了一个定制的后台管理系统,方便其更好监测服务器负载情况及管理运营平台。




    说在最后


    增长超人很高兴能与中国科学院香港创新研究院共创CARES Copilot用户平台。并努力通过我们的技术实力和项目经验,帮助香港创新研究院和医护人员实现人工智能和医疗行业的深度对话。


    如果你认可我们的理念并且刚好也有软件定制或数字营销相关的需求,不妨和我聊一聊,相信我们彼此都会感到相识恨晚。


256
返回列表

想了解中国科学院香港创新研究院的服务方案与价格?

您的称呼*
手机号码*
公司名称
立即获取

来一场关于你的项目讨论会?

获取
方案
咨询
微信扫码咨询
电话咨询 0755-8232 6831
复制成功

等一下!这里还有三份资料送你

3000+企业市场部都在用的工具书

企业官网建设实战指南

SEM提效之狙击战术

2023年数字营销白皮书

免费领取

仅剩5

等一下!这里还有三份资料送你

3000+企业市场部都在用的工具书

企业官网建设实战指南

SEM提效之狙击战术

2023年数字营销白皮书

免费领取

仅剩5

等一下~领完资料再走~
《企业官网建设实战指南》 《SEM提效之狙击战术》 《2023年数字营销白皮书》
免费领取

仅剩5

* 3000+企业市场部都在用的工具书