2023年终总结｜回顾学习Tensorflow、Keras的历程

?

? ? ? ? 2023年4月，初探TensorFlow2.0，对比了1.0版本的差异。接着，学习了TensorFlow2.0的常量矩阵、四则运算以及常用函数。学习了数据切割、张量梯度计算、遍历元素、类别索引转换等技巧，并掌握了CNN输出特征图形状的计算方法。

? ? ? ?在数据处理方面，学习了数据切割、张量梯度计算和遍历元素的技巧，这些技能在处理大规模数据集时极为重要。此外，还掌握了如何计算CNN输出特征图形的形状，这为优化模型性能提供了有力支持。

? ? ? ?为了提升编程技能，不仅整理了公开数据集的信息，还利用Keras 2.0快速搭建了网络，成功实现了MNIST手写数字识别、FashionMNIST数据集分类任务、IMDB数据集电影评论文本分类任务。在这个过程中，我深入学习了Keras 2.0的模型构建、编译与训练、损失函数和优化器等常用函数。

? ? ? 在不断实践中，我逐渐掌握了RNN的基本逻辑，并了解了Keras 3.0的新功能。我深入研究了Keras 3.0的各种API，如Ops、NumPy Ops、Sequential类、Model类、Model training APIs等，这使我能够更高效地构建和训练深度学习模型。

? ? ? 此外，还学习了如何使用Keras3.0进行文生图模型的实践，以及如何创建和操作数据集。还掌握了文本和音频数据的加载方法，以及如何优化神经网络模型。最后，深入了解了激活函数、长短时记忆网络LSTM、Dropout层等技术。

?

我的学习历程

---

?

2023年4月21日

初探TensorFlow2.0，对比了1.0版本的差异，通过查阅相关文档，总结归纳发布2023年的首篇博客《TensorFlow2.0与1.0版本的区别》

2023年4月21日

学习Tensorflow2.0常量矩阵定义函数tf.constant和矩阵四则运算tf.matmul、tf.add、tf.divide、tf.subtract发布学习笔记《TensorFlow2.0矩阵四则运算》

2023年4月22日

学习TensorFlow2.0常用函数tf.cast、tf.reduce_min、tf.reduce_max、axis、tf.reduce_mean、tf.reduce_sum、tf.Variable、assign、assign_add、assign_sub、tf.square、tf.pow、tf.sqrt发布二篇学习笔记《TensorFlow2.0常用函数(一)》、《TensorFlow2.0常用函数(二)》

2023年4月23日

学习tf.data.Dataset.from_tensor_slices切分tensor的第一维度生成输入特征/标签对并构建数据集、tf.GardientTape张量梯度计算函数、enumberate可遍历每个元素（列表、元祖、字符串）、tf.one_hot可以将类别索引转换onehot编码《TensorFlow2.0常用函数(三)》

2023年4月24日

学习常用的激活函数sigmoid、tanh、relu、leaky_relu、softmax《TensorFlow2.0常用函数(四)》

查阅统计发布博客《神经网络目前常用的公开数据集》

2023年4月24日

实战使用keras2.0快速搭建网络通过导入相关模块、准备数据、搭建网络结构、配置model.compile、model.fit、model.summary等基本掌握搭建网络的流程并发布实战笔记《实战keras2.0 API:tf.keras快速搭建网络》

?2023年4月25日

学习keras2.0的常用函数包括模型构建、编译与训练、损失函数、优化器、指标、其他等并发布学习笔记《详解keras2.0 API:keras的常用函数》

根据以上学习并实战使用keras搭建CNN实现MNIST手写数字识别并发布实战笔记《实战keras搭建CNN实现MNIST手写数字识别》

?2023年4月26日

实战使用keras.models.load_model加载已保存模型继续训练并发布实战笔记《实战Keras2.0 API:keras.models.load_model加载已保存模型继续训练》

学习Keras.layers.Conv2D并发布学习笔记《详解Keras2.0 API:Keras.layers.Conv2D》

2023年4月27日

学习CNN输出特征图形状计算，理解输入特征图大小、卷积核大小、填充padding、步长stride以及输出特征图大小之间的关系，学习如何计算输入特征图经过卷积核后输出特征的大小，并以AlexNet网络第一层卷积层输出的形状为例，并发布学习笔记《CNN输出特征图形状计算》

2023年4月28日?

学习MaxPooling2D，并发布学习笔记《详解Keras 2.0 API:Keras.layers.MaxPooling2D》

2023年4月29日?

学习Dense，并发布学习笔记《详解Keras2.0 API:Keras.layers.Dense》

2023年5月14日?

复习Numpy库常用的函数np.array、np.zeros、np.ones、np.arange、np.mean、np.max、np.min，并发布学习笔记《Python：Numpy库常用函数（一）》

2023年5月15日?

实战分别加载两种格式的本地MNIST数据集，并发布实战笔记《实战加载本地MNIST数据集(GZ格式)》、《实战加载本地MNIST数据集(NPZ格式)》

2023年5月16日?

发布博客《一个优秀的程序应具备哪些能力》

2023年5月17日

实战FashionMNIST数据集分类任务之数据处理及验证?，复习加载GZ格式数据集的方法、实战预处理数据方法、验证数据并发布实战笔记《实战FashionMNIST数据集分类任务之数据处理及验证》

2023年6月11日?

实战IMDB数据集电影评论文本分类中的数据加载以及映射单词到整数索引的词典的方法，并发布实战笔记《实战IMDB数据集电影评论文本分类（一）》

学习Keras.preprocessing.sequence.pad_sequences，理解函数的功能以及参数如截断、填充等，并发布学习笔记《详解Keras2.0 API: Keras.preprocessing.sequence.pad_sequences》?

2023年6月12日?

学习keras.layers.Embedding，理解单词向量化，并发布学习笔记《详解Keras2.0 API:Keras.layers.Embedding》

2023年6月17日

实战IMDB数据集电影评论文本分类的处理数据、构建网络，并发布实战笔记《实战IMDB数据集电影评论文本分类（二）》

2023年6月18日?

实战IMDB数据集电影评论文本分类的编译模型、模型训练、评估和model.fit()?返回一个?History?对象创建准确率和损失值随时间变化的图形，并发布实战笔记《实战IMDB数据集电影评论文本分类（三）》

2023年7月25日

初探RNN，理解将当前时刻的输入数据和之前的隐藏状态结合起来进行处理的基本逻辑以及RNN的基本结构，并发布学习笔记《RNN—循环神经网络》

2023年12月1日?

11月29日Keras3.0发布，Keras3.0完全重写了代码库，可以在JAX、TensorFlow和PyTorch上运行，解锁全新大模型训练和部署的新功能。并发布《Keras3.0一统江湖》

2023年12月4日?

学习Keras3.0 Ops NumPy Ops中的keras.ops.absolute、keras.ops.add、keras.ops.append，并发布学习笔记《详解Keras3.0 Ops API: NumPy ops（一）》

2023年12月5日?

学习Keras3.0 Ops NumPy Ops中的keras.ops.arange、keras.ops.amax、keras.ops.amin，并发布学习笔记《详解Keras3.0 Ops API: NumPy ops（二）》

2023年12月6日?

学习Sequential类以及add、pop，并发布学习笔记《详解Keras3.0 Models API: Sequential class》

2023年12月7日

学习Model类，并发布学习笔记《详解Keras3.0 Models API: Model class》

2023年12月8日

学习Model training APIs的compile、fit,并发布学习笔记《详解Keras3.0 Models API: Model training APIs》

2023年12月9日

学习Whole model saving & loading的save、save_model、load_model，并发布学习笔记《详解Keras3.0 Models API: Whole model saving & loading》

2023年12月10日

学习Convolution layers中的Conv1D、Conv2D、Conv3D，并发布学习笔记《详解Keras3.0 Layers API: Convolution layers》

2023年12月11日

学习Core layers中的Input、Dense、Embedding，并发布学习笔记《详解Keras3.0 Layers API: Core layers》

2023年12月12日

学习Pooling layers 中的MaxPooling1D、MaxPooling2D、MaxPooling3D，并发布学习笔记《详解Keras3.0 Layers API: Pooling layers （MaxPooling1D、MaxPooling2D、MaxPooling3D）》

2023年12月13日

学习Data loading中的Image data loading，并发布学习笔记《详解Keras3.0 Data loading:Image data loading》

2023年12月15日

学习实践Keras3.0 KerasCV之Stable?Diffusion文生图模型，并发布学习笔记《详解Keras3.0 KerasCV API: StableDiffusion image-generation model》

2023年12月16日

学习Pooling layers中的AveragePooling1D 、AveragePooling2D 、AveragePooling3D，并发布学习笔记《详解Keras3.0 Layers API: Pooling layers （AveragePooling1D 、AveragePooling2D 、AveragePooling3D）》

2023年12月20日

学习TensorFlow2.0 API:tf.data.Dataset如何创建和操作数据集，并发布学习笔记《详解TensorFlow2.0 API:tf.data.Dataset》

2023年12月21日

学习Data loading:Text data loading，text_dataset_from_directory从目录中读取文本文件并创建一个数据集，并发布学习笔记《详解Keras3.0 Data loading: Text data loading》

学习Data loading: Audio data loading?,audio_dataset_from_directory?用于从目录中加音频文件并生成音频数据集，并发布学习笔记《详解Keras3.0 Data loading: Audio data loading》

2023年12月22日?

实战回归神经网络模型，并发布实战笔记《实战Keras3.0：回归神经网络模型》

2023年12月23日

学习KerasNLP Models: GPT2 GPT2Tokenizer，使用GPT2Tokenizer对文本进行分词、编码操作、使用from_preset函数加载GPT2的分词器，并发布学习笔记《详解Keras3.0 KerasNLP Models: GPT2 GPT2Tokenizer》

2023年12月24日

学习优化器（Optimizer），常用优化器、以SGD为例进行实践，并发布学习笔记《详解Keras3.0 API: Optimizers(优化器)》

2023年12月25日

学习激活函数（Activation），常用激活函数、激活函数实现、以ReLU为例进行实践，并发布学习笔记《详解Keras3.0 Layer API: Activation functions(激活函数)》

2023年12月26日

学习长短时记忆网络LSTM，理解遗忘门、输入门、候选记忆单元、输出门的基本逻辑以及keras.layers.LSTM的参数，并发布学习笔记《详解Keras3.0 Layer API: LSTM layer》

2023年12月29日

学习Dropout层，理解其作用、工作原理，并发布学习笔记《详解Keras3.0 Layer API: Dropout layer》

2023年12月30日

学习Keras加载预训练模型，以VGG16模型为例，并发布学习笔记《Keras加载预训练模型》