尤洋|2天训练出15亿参数大模型,国产开源项目力克英伟达Megatron-LM( 四 )


与此同时,尤洋回国创办潞晨科技——一家主营业务为分布式软件系统、大规模人工智能平台以及企业级云计算解决方案的AI初创公司。
其核心团队成员来自加州大学伯克利分校、斯坦福大学、清华大学、北京大学、新加坡国立大学、新加坡南洋理工大学等国内外知名高校,在高性能计算、人工智能、分布式系统方面有十余年的技术积累,并已在国际顶级学术刊物/会议上发表论文30余篇。
目前,潞晨科技已拿下创新工场和真格基金合投的超千万元种子轮融资。
传送门有关Colossal-AI,今天就先介绍到这里。
最后,附上传送门,感兴趣的小伙伴,自行取用~
GitHub地址:https://github.com/hpcaitech/ColossalAI
参考链接:
https://medium.com/@hpcaitech/efficient-and-easy-training-of-large-ai-models-introducing-colossal-ai-ab571176d3ed
— 完 —
量子位 QbitAI · 头条号签约