transformers Jupyter Notebooks
作者|huggingface
编译|VK
来源|Github
Jupyter Notebooks
我们包括三个Jupyter Notebooks，可以用来检查Pythorch模型的预测是否与原始TensorFlow模型的预测相同。
第一个Notebooks(Comparing-TF-and-PT-models.ipynb:https://github.com/huggingface/transformers/blob/master/notebooks/Comparing-TF-and-PT-models.ipynb)提取了TensorFlow和PyTorch模型每一层上完整序列的隐藏状态，并计算了它们之间的标准差。在给定的例子中，我们得到模型的各种隐藏状态的标准差为1.5e-7到9e-7。
第二个Notebooks(Comparing-TF-and-PT-models-SQuAD.ipynb:https://github.com/huggingface/transformers/blob/master/notebooks/Comparing-TF-and-PT-models-SQuAD.ipynb)比较了TensorFlow和PyTorch模型计算的BertForQuestionAnswering微调层相同初始化的损耗，并计算了它们之间的标准偏差。在给定的例子中，我们得到模型之间的标准偏差为2.5e-7。
第三个Notebooks(Comparing-TF-and-PT-models-MLM-NSP.ipynb:https://github.com/huggingface/transformers/blob/master/notebooks/Comparing-TF-and-PT-models-MLM-NSP.ipynb) 比较了TensorFlow和PyTorch模型计算的预测，并使用预训练的掩码语言模型对掩码标记语言进行建模。
请按照Notebooks中的说明运行和修改它们。
原文链接：https://huggingface.co/transformers/notebooks.html
原创文章，作者：pytorch，如若转载，请注明出处：https://pytorchchina.com/2020/03/04/transformers-jupyter-notebooks/
pytorch 相关推荐
-
史上最全的PyTorch学习资源汇总
PyTorch学习教程、手册 PyTorch英文版官方手册：对于英文比较好的同学，非常推荐该PyTorch官方文档，一步步带你从入门到精通。该文档详细的介绍了从基础知识到如何使用P…
-
transformers 使用教程
作者|huggingface 编译|VK 来源|Github 此页显示使用库时最常见的用例。可用的模型允许许多不同的配置，并且在用例中具有很强的通用性。这里介绍了最简单的方法，展示…
-
PyTorch 1.0现身（Logo也换了），围棋AI开源
F8开发者大会第二天，Facebook亮出了一系列AI大动作。 Caffe2和PyTorch合体事件有了清晰的发展方向，同样服务于深度学习开发者的ONNX也宣布支持更多的框架。 另…
-
transformers 预训练模型
作者|huggingface 编译|VK 来源|Github 这里的预训练模型是当前提供的预训练模型的完整列表，以及每个模型的简短介绍。 有关包含社区上传模型的列表，请参阅http…
-
PyTorch 60 分钟入门教程：自动微分
autograd 包是 PyTorch 中所有神经网络的核心。首先让我们简要地介绍它，然后我们将会去训练我们的第一个神经网络。该 autograd 软件包为 Tensors 上的所…
-
PyTorch 60 分钟入门教程：PyTorch 训练分类器
你已经了解了如何定义神经网络，计算损失值和网络里权重的更新。 现在你也许会想应该怎么处理数据？ 通常来说，当你处理图像，文本，语音或者视频数据时，你可以使用标准 python 包将…
-
混合前端的seq2seq模型部署
混合前端的seq2seq模型部署 本教程将介绍如何是seq2seq模型转换为PyTorch可用的前端混合Torch脚本。我们要转换的模型来自于聊天机器人教程Chatbot tuto…
-
PyTorch 高级教程：基于 BI-LSTM CRF 实现命名实体识别和中文分词
前言：译者实测 PyTorch 代码非常简洁易懂，只需要将中文分词的数据集预处理成作者提到的格式，即可很快的就迁移了这个代码到中文分词中，相关的代码后续将会分享。 Pytorch是…
-
PyTorch Windows 安装教程
pytorch 正式发布支持 Windows 的 0.4 版 安装教程： 从官方网站选择对应的版本和安装工具，这里我选择了 Windows + pip 命令是： pip3 inst…
-
PyTorch 60 分钟入门教程：神经网络
神经网络 神经网络可以通过 torch.nn 包来构建。 现在对于自动梯度(autograd)有一些了解，神经网络是基于自动梯度 (autograd)来定义一些模型。一个 nn.M…
