AI芯片、GPU、算力、大模型

2023-12-20 09:50:49

人工智能(Artificial Intelligence)

AIGC(Artificial Intelligence Generated Content / AI-Generated Content)
中文译为人工智能生成内容,一般认为是相对于PCG(专业生成内容)、UCG(用户生成内容)而提出的概念。
AIGC狭义概念是利用AI自动生成内容的生产方式。
广义的AIGC可以看作是像人类一样具备生成创造能力的AI技术,即生成式AI,它可以基于训练数据和生成算法模型,自主生成创造新的文本、图像、音乐、视频、3D交互内容等各种形式的内容和数据,以及包括开启科学新发现、创造新的价值和意义等。

深度学习(DL,Deep Learning)是机器学习(ML,Machine Learning)领域中一个新的研究方向,它的最终目标是让机器能够像人一样具有分析学习能力,能够识别文字、图像和声音等数据。

人工神经网络(Artificial Neural Network,即ANN )

自然语言处理( Natural Language Processing, NLP)
自然语言处理主要应用于机器翻译、舆情监测、自动摘要、观点提取、文本分类、问题回答、文本语义对比、语音识别、中文OCR等方面。

自然语言是指人们日常使用的语言,如汉语、英语、法语等,可以说是我们在社会生活中接触到的最多的信息之一,人们迫切希望能够使得自然语言能为计算机所处理,实现真正的人机交互,也就是要实现数据(Data)→信息(Information)→知识(Knowledge)→“情报/智能”(Intelligence)的转换。

NLP的具体表现形式包括语音识别(Speech recognition),中文自动分词(Chinese word segmentation),词性标注(Part-of-speech tagging),句法分析(Parsing),文本分类(Text categorization),信息检索(Information retrieval),信息抽取(Information extraction),文字校对(Text-proofing),问答系统(Question answering),机器翻译(Machine translation),自动摘要(Automatic summarization),自然语言生成(Natural language generation)等。

大模型能够进行内容生成(AIGC),助力内容规模化生产?
?

大语言模型 (large language model,LLM)
一种基于人工智能和深度学习技术的自然语言处理模型,能够理解和生成自然语言文本。

?阿里夸克大模型

通义千问720亿参数模型,Qwen72B

?百度文心大模型

华为盘古大模型
?
OpenAI大模型,ChatGPT

谷歌大模型,Gemini
.
.
.

随着生成式人工智能大火,以GPU作为算力来源的AI计算需求暴增。。。

在AI技术的背后,离不开强大的计算能力支持。


AI与芯片技术

昇腾910/310/200/100等
昇腾310的整数精度算力达到16TOPS,而昇腾910的整数精度算力更是高达640TOPS,这意味着昇腾910的性能已接近英伟达A100。在软件方面培育类似英伟达CUDA的异构计算架构CANN和AI计算框架MindSpore。

NVIDIA
英伟达GPU重要性不仅在于硬件性能,更在于其CUDA和PyTorch等软件生态的强大能力。
A100;
H100;
A800;这是一款“阉割版”的A100芯片,速度只有A100的70%。
H800;
L40s;
改良AI芯片系列,包括HGX H20、L20 PCle 和 L2 PCle

算力、算力单位

MOPS(Million Operation Per Second),1 MOPS代表处理器每秒钟可进行一百万次(10^6)操作。

GOPS(Giga Operations Per Second),1 GOPS代表处理器每秒钟可进行十亿次(10^9)操作。

TOPS(Tera Operations Per Second)是一个计算机的算力单位,代表处理器每秒钟可进行一万亿次操作。

FLOPS(floating-point operations per second)是浮点运算的算力单位,1 TFLOPS(tera FLOPS)等于每秒一万亿(=10^12)次的浮点运算。

注释:

million 百万
billion 十亿
trillion 万亿

Mega,符号M表示,国际单位制词头,是表示数量的数词,代表 10^6,也就是百万。
giga,符号G表示,国际单位制词头,是表示数量的数词,代表 10^9,也就是十亿。
Tera,符号T表示,国际单位制词头,是表示数量的数词,代表 10^12,也就是万亿。

文章来源:https://blog.csdn.net/weixin_46028840/article/details/135093183
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。