南京人工智能计算中心全自主运行“大模型”

2023-08-02 08:42:26 来源：南报网小 中

【资料图】

南京人工智能计算中心近日对外公布，中心成功实现LLaMA、ChatGLM-6B、BLOOM、鹏程·盘古α等主流NLP（自然语言处理）大模型上线。这些大模型均为目前人工智能产学界最前沿、最受关注的技术“宠儿”，可针对用户需求提供相对准确的答案和建议，应用广泛。

江北科投集团副总经理、先进计算产业发展有限公司总经理戴晓玉介绍，该中心实现从芯片到系统再到应用部署层全栈自主可控。他解释，大模型在算力中心成功适配，意味着使用中心算力服务的企业及院校机构都可以在国产生态中“跑”起大模型。

今年以来，人工智能算力需求呈现爆发式增长，被称为算力之源的GPU（图形处理器）是人工智能大模型发展的关键基础设施。目前，全球GPU巨头企业英伟达，在人工智能训练芯片领域占据很高的市场份额，不少算力中心都采用其芯片运行。

据介绍，昇思MindSpore是华为开源推出的首个业界全场景AI框架。该中心基于这一框架，将主流NLP大模型适配到本地环境中，实现高效运行。目前，一家互联网电商企业在测试中，使用适配后的大模型运营自己的平台，运行情况良好。

沿着江心洲大桥驶入江北新区，南京人工智能计算中心正立于一侧。这个算力中心的“大脑”位于这座大厦二楼的机房内，机柜上一个个排列整齐的“黑匣子”泛出蓝光，那是算力中心的核心模块，24小时不间断运转。中心一期计算能力达40PFLOPS（每秒4亿亿次浮点运算次数），于去年5月对外提供服务，如今分配率为100%，算力已全部供应给企业、院校机构，使用率峰值达85%左右。将于9月上线的二期项目预计扩容100PFLOPS算力，部分算力服务已被预订。

在算力中心稳定运行后，一批省内重点高校主动邀约合作，探路用全自主的“算力”跑起属于自己的科研大模型。去年11月，南京大学、江北科投集团、华为公司三方签约，共同孵化“金陵·女娲”科研大模型。这一大模型可帮助研究人员从基因出发探究生命体的新规律，为罕见病诊断以及药物设计提供支撑。“为了发现可能药物或有效靶标，原本需要做千万次尝试，有了大模型的辅助，只需做十分之一甚至百分之一的工作量。”戴晓玉解释。

当下，东南大学毫米波国家重点实验室、南农作物遗传与种质创新国家重点实验室、中科院自动化所等科研机构都在该中心进行科研大模型的孵化，未来可应用于人工智能生物学、EDA、智能制造和智慧育种等产业。

关键词：