Skip to content

Latest commit

 

History

History
 
 

01Introduction

一、AI 系统概述

目前应用最为广泛,工程实践最丰富,研究最为火热的人工智能(Artificial Intelligence,AI)方向就是深度学习(Deep Learning,DL)。深度学习算法目前在计算机视觉,自然语言处理,语音识别等典型场景取得了超越传统算法的效果与突破性进展。应用与算法层面成功的背后离不开系统本身作为基础设施提供容易编程的接口,高效率的执行,大规模的训练,跨平台的部署和工具链的支持。

这里介绍的人工智能系统(Artificial Intelligence System,AISys)主要是指深度学习系统(Deep Learning System,DLSys)。深度学习算法本身无论从模型设计,训练方式也借鉴了很多传统机器学习算法的经典理论与实践方式,但是深度学习系统本身相比机器学习系统从硬件到软件层有更多新的挑战和新的演化,数据与问题规模变得更大,应用场景与部署也更加广泛。

综合起来深度学习系统/AI 系统会综合考虑和借鉴机器学习系统(Machine Learning System),大数据系统(Big Data System)和高性能计算(High Performance Computing)领域和社区中的经典的系统设计,优化与问题解决方法,并演化出针对深度学习算法特点的新的系统设计。

本章希望在开篇让大家能够了解到深度学习是什么、AI 是什么,以及作为 AI 系统的上层工作负载(Workload),AI 的发展与现状是如何驱动 AISys/DLSys 本身发展的。本章首先将展开介绍 AI 的历史,现状与发展,之后介绍 AI 发展的驱动力:算法,框架与体系结构的发展,让读者感受到除了上层应用与算法,系统底层抽象与管理的硬件资源同样是重要的驱动因素。系统常常处于中间层对上管理任务,对下抽象与管理硬件。之后将介绍 AI 系统的组成与生态,让大家形成系统的(Systematic)知识框架,为未来开展 AISys 的学习奠定基础。接着通过简单实例启发读者了解算法背后的系统问题,以及回顾经典的计算机系统设计理论并指导之后的深度学习系统的学习。最后介绍大模型,包括语言大模型和多模态大模型对于 AISys 在技术上的冲击和对于技术的挑战,面对大模型的到来应该如何更好地提供对应的技术。

希望这个系列能够给大家、朋友们带来一些些帮助,也希望自己能够继续坚持完成所有内容哈!

课程简介

通过以下内容展开介绍,以让开发者在开篇了解 AI 系统的来龙去脉,形成 AI 系统的系统化与层次化的初步理解,为后续展开具体的 AI 系统内容打好初步基础。

  • 《AI 历史与发展》:通过人工智能去了解深度学习的历史,现状与发展,特别是大模型的出现对人工智能的冲击。

  • 《AI 发展驱动力》:介绍深度学习发展的驱动力:即算法、框架与体系结构与算力的发展,了解除了上层应用与算法,系统底层抽象与管理的硬件资源同样是 AI 系统中重要的组成因素。

  • 《AI 系统全栈架构》:系统常常处于中间层对上管理任务,对下抽象与管理硬件。AI 系统也不例外,通过对 AI 系统全栈的组成与生态架构展示,让开发者形成系统的(Systematic)知识框架,为未来开展 AI 系统的学习奠定基础。

  • 《AI 系统原则与样例》:回顾经典的计算机系统设计理论并指导之后的 AI 系统的学习,了解影响 AI 系统设计的理论,原则与假设。通过简单实例启发开发者,去了解算法背后的 AI 系统性问题,体会 AI 系统给上层算法和底层硬件带来的作用。

  • 《AI 系统与大模型到来》:大模型的重要意义在于它是 AI 向 AGI (通用人工智能)演化过程中的最新成果与标志,相对于之前的 AI 系统,AI 大模型有望成为数字基础设施。

课程脑图

AI 系统全栈

备注

文字课程内容正在一节节补充更新,每晚会抽空继续更新正在 AISys ,希望您多多鼓励和参与进来!!!

文字课程开源在 AISys,系列视频托管B 站油管,PPT 开源在github,欢迎取用!!!

非常希望您也参与到这个开源项目中,B 站给 ZOMI 留言哦!

欢迎大家使用的过程中发现 bug 或者勘误直接提交代码 PR 到开源社区哦!

希望这个系列能够给大家、朋友们带来一些些帮助,也希望自己能够继续坚持完成所有内容哈!