一个介绍深度学习系统核心原理的项目。它深入探讨了深度学习系统的基本原理和核心概念,为对深度学习感兴趣的人提供了宝贵的学习资源。
[使用文档]:https://github.com/chenzomi12/DeepLearningSystem
[视频介绍]:https://space.bilibili.com/517221395
视频系列课程设计AI方方面面: 从AI基础知识技能 -> AI芯片发展 -> AI编辑器原理 -> AI推理引擎 -> AI核心架构 -> 大模型 -> 热点技术剖析 ,绝对干货满满 值得学习!!
2.项目流行趋势项目地址:https://github.com/chenzomi12/DeepLearningSystemGithub趋势榜:入选2024-02-22日榜,日增⭐40 stars today入选2024-02-23日榜,日增⭐20 stars today入选2024-02-24日榜,日增⭐20 stars today入选2024-02-27周榜,周增⭐209 stars this week入选2023-12-13月榜,月增⭐1,701 stars this month开源时间:2022-09-22最后更新:2024-02-27主要语言:Jupyter Notebook项目分类:[学习社区] [AI]项目标签:[机器学习] [计算机科学] [机器学习]Star历史曲线:3.项目推荐AI 深度学习系统:
课程主要包括以下六大模块:涉及图片均来自项目源码里ppt,更多干货可以去深度了解.
第一部分,AI基础知识和AI系统的全栈概述的AI系统概述,以及深度学习系统的系统性设计和方法论,主要是整体了解AI训练和推理全栈的体系结构内容。
第二部分,硬核篇介绍AI芯片概况,这里就很硬核了,从芯片基础到AI芯片的范围都会涉及,芯片设计需要考虑上面AI框架的前端、后端编译,而不是停留在天天喊着吊打英伟达,被现实打趴。
第三部分,进阶篇介绍AI编译器原理,将站在系统设计的角度,思考在设计现代机器学习系统中需要考虑的编译器问题,特别是中间表达乃至后端优化。
第四部分,实际应用推理系统与引擎,讲了太多原理身体太虚容易消化不良,还是得回归到业务本质,让行业、企业能够真正应用起来,而推理系统涉及一些核心算法和注意的事情也分享下。
第五部分,介绍AI框架核心技术,首先介绍任何一个AI框架都离不开的自动微分,通过自动微分功能后就会产生表示神经网络的图和算子,然后介绍AI框架前端的优化,还有最近很火的大模型分布式训练在AI框架中的关键技术。
第六部分,汇总篇介绍大模型与AI系统,大模型是基于AI集群的全栈软硬件性能优化,通过最小的每一块AI芯片组成的AI集群,编译器使能到上层的AI框架,训练过程需要分布式并行、集群通信等算法支持,而且在大模型领域最近持续演进如智能体等新技术。
4.相关项目/期刊推荐Github期刊汇总:
周刊汇总:Github精选开源项目周刊,每周一更新月刊汇总:Github精选开源项目月刊,每月30号更新知乎项目推荐汇总:
项目精选专栏ChatGPT专栏AI图像专栏Github项目精选周刊Github精选项目月刊更多Github开源项目以上就是本期项目的分享,如果你喜欢本期的内容,欢迎收藏和关注OpenGithub社区:https://open.itc.cn/,我们会定期推送优质的开源项目。
Github历史期刊:https://github.com/OpenGithubs
周刊汇总:Github精选开源项目周刊,每周一更新月刊汇总:Github精选开源项目月刊,每月30号更新专栏汇总:Github精选开源项目专栏,不定期更新