fast.ai发布新的深度学习过程中,四个库,和600页的书

fast.aiis a self-funded research, software development, and teaching lab, focused on making deep learning more accessible. We make all of our software, research papers, and courses freely available with no ads. We pay all of our costs out of our own pockets, and take no grants or donations, so you can be sure we’re truly independent.

今天是fast.ai最大的一天,我们的四个年的历史。我们正在释放:

另外,如果你错过了,这周早些时候我们发布了实际数据伦理课程的重点是既紧迫又实用的课题。

内容

fastai v2

fastai是一个深度学习库,它为从业者提供高级组件,这些组件可以在标准深度学习领域快速、轻松地提供最先进的结果,并为研究人员提供低级组件,这些组件可以混合和匹配来构建新的方法。它的目标是同时做到这两件事,而不会在易用性、灵活性或性能方面做出实质性的妥协。这要感谢一个精心分层的体系结构,它通过分离的抽象表达了许多深度学习和数据处理技术的共同底层模式。通过利用底层Python语言的动态性和PyTorch库的灵活性,可以简明而清晰地表达这些抽象。fastai包括:

fastai的分层架构

fastai是围绕两个主要的设计目标组织起来的:平易近人和快速高效,同时也具有很强的可编程性和可配置性。它构建在底层api的层次结构之上,这些api提供可组合的构建块。这样,想要重写部分高级API或添加特定行为来满足自己需求的用户就不必学习如何使用最低级别的API。

要了解fastai有什么可能,请查看快速开始,展示了如何使用大约5行代码构建一个图像分类器、一个图像分割模型、一个文本情感模型、一个推荐系统和一个表格模型。对于每个应用程序,代码基本相同。

fastai在图像分割中的应用实例

阅读的教程学习如何在自己的数据集上训练自己的模型。使用导航栏浏览fastai文档。这里记录了每个类、函数和方法。要了解图书馆的设计和动机,请阅读同行评审论文,或者看看这个演讲总结一些关键的设计要点。

所有fast.ai项目,包括fastai,都建有nbdev,这是一个满文学编程环境建立在木星的笔记本。这意味着每一份文档都可以作为交互式的Jupyter笔记本访问,并且每个文档页面都包含一个链接,可以直接在谷歌Colab上打开它,以便进行实验和定制。

从普通的PyTorch、Ignite或任何其他基于PyTorch的库迁移到fastai非常容易,甚至可以将fastai与其他库结合使用。通常,您将能够使用所有现有的数据处理代码,但是将能够减少培训所需的代码数量,并更容易地利用现代最佳实践。下面是一些流行库的迁移指南,可以帮助你:平原PyTorch;点燃;闪电;催化剂。而且因为它很容易结合起来,与现有代码和库fastai框架的一部分,你可以选择你想要的位。例如,你可以使用fastai的GPU加速的计算机视觉库,拥有自己的训练循环沿。

fastai包括许多添加功能的模块,通常通过回调。由于灵活的基础设施,这些都一起工作,所以你可以挑选和选择你需要的(并添加你自己的),包括:混合断路增强,一种独特的灵活甘培训框架,一个范围调度器(其中有许多是没有在任何其他框架提供)包括用于微调的方法以下描述支持在ULMFiT,混合精度,梯度累积,对于一个范围像Tensorboard日志框架的支持(与重量和偏见特别强的支撑,如这里演示),医学成像,还有更多。属性添加其他功能fastai生态系统,对于诸如支持HuggingFace变形金刚(也可以手动完成,如本教程),音频,加速推理,等等。

在fastai的医学影像

有已经有一些很好的学习材料可供fastai V2由社区,如由扎克穆勒的“零到英雄”系列:第1部分;第2部分

yabo88安卓面向程序员的深度实用学习课程

以前快。人工智能课程已经被来自世界各地各行各业的成千上万的学生学习。许多学生告诉我们他们是如何变成这样的多次获得金奖国际机器学习竞赛,报价来自顶级公司研究论文发表。例如,艾萨克·迪米特洛夫斯基告诉我们他有"我玩ML玩了好几年,都没有真正摸过它……(然后)过了斋戒期。ai part 1课程去年年底,它点击为我”。他后来在享有盛誉的国际比赛中获得了第一名RA2-DREAM挑战竞争!他开发了一个多阶段深度学习方法用于类风湿关节炎影像学手、足关节损伤的评分,利用fastai图书馆。

今年的课程进一步需要的东西。它集成在一个单一的过程既机器学习和深度学习,覆盖等随机森林的主题,梯度升压,测试和验证集,和p值,这在以前是在一个单独的机器学习过程。此外,生产和部署也包括在内,包括开发我们自己的深度学习动力的应用程序基于Web的图形用户界面材料。唯一的前提是高中数学,并在一年的编码经验(最好在Python)的。该课程被录制现场,在用连词数据研究所在旧金山大学。

完成本课程后,你将知道:

我们很关心教学,使用整个游戏的方法。在本课程中,我们从展示如何使用一个完整的,工作的,非常有用的,最先进的深度学习网络来解决现实世界的问题,使用简单,表达工具。然后我们逐渐深入了解这些工具是如何被制造的,以及制造这些工具的工具是如何被制造的,等等。我们总是通过例子来教学。我们确保有一个您可以直观地理解的上下文和目的,而不是从代数符号操作开始。我们还将深入细节,向您展示如何从头构建深度学习模型的所有组件,包括讨论性能和优化细节。

整个过程就可以完成免费,没有任何安装,通过采取引导的Colab和梯度平台,提供免费,GPU的笔记本电脑的优势。

深度学习的程序员与fastai和PyTorch,书

为了理解这本新书是关于什么的,而且它是谁,让我们看看其他人说这件事...... Soumith Chintala,PyTorch的联合创始人表示,的前言使用fastai和PyTorch的程序员的深度学习:

但和我不同的是,杰里米和Sylvain无私地投入了大量的精力来确保其他人不必重蹈他们的覆辙。他们建了一个很棒的课程,叫做fast。让懂基本编程的人也能接触到尖端的深度学习技术。它已经毕业了成千上万的热切的学习者成为伟大的实践者。

在这本孜孜不倦的书中,杰里米和西尔万构建了一段深入学习的神奇旅程。他们使用简单的词汇,介绍每一个概念。他们为你带来前沿的深度学习和最先进的研究,而且让你很容易接近。

在这本500页的有趣旅程中,您将了解计算机视觉的最新进展,深入自然语言处理,并学习一些基本的数学知识。这个过程并不仅仅是乐趣,它还会带着你把你的想法交付到生产中去。你可以吃快餐。人工智能社区,thousands of practitioners online, as your extended family, where individuals like you are available to talk and ideate small and big solutions, whatever the problem may be.

谷歌研究总监彼得·诺维格说明确的文字在AI)说:

“深度学习是每个人”,我们在第1章,这本书的第1节看到了,而其他的书可以使类似的索赔,这本书的要求提供。作者有该领域的丰富知识,而且能够描述它是非常适合携带编程经验的读者,但不是在机器学习的方法。这本书所显示的例子第一,也是唯一涵盖的具体例子的语境理论。对于大多数人来说,这是learn.The本书的最好办法确实覆盖深度学习计算机视觉,自然语言处理,数据和表格数据处理中的关键应用程序的一个令人印象深刻的工作,同时也涵盖了诸如数据伦理学主要议题,其他一些书籍错过。总之,这是一个程序员,成为深学习精通的最佳来源之一。

斯坦福大学人工智能医学与成像中心主任Curtis Langlotz说:

Gugger和霍华德创造了谁曾经做过编码的哪怕是一点点的人的理想资源。这本书,和与之相伴的fast.ai课程,简约和实用的神秘性深学习使用方法上的一双手,用预先写好的代码,你可以探索和再利用。没有更多的通过关于抽象的概念定理和证明苦读。在第一章中,你将建立你的第一个深度学习模型,并通过这本书的最后,你将知道如何阅读和理解任何深度学习论文的方法部分。

fastcore, fastscript,和fastgpu

fastcore

Python是一种功能强大的动态语言。它让程序员自定义语言,让它为他们工作,而不是把所有东西都放入语言中。fastcore使用这种灵活性添加到Python特性中,这些特性受到我们喜爱的其他语言的启发,比如Julia的多分派、Ruby的混合、以及Haskell的局部化、绑定等。它还添加了一些“缺失的特性”,并清理了Python标准库中的一些粗糙之处,比如简化并行处理,以及将从NumPy的思想引入Python的列表类型。

fastcore包含许多特性。看到文档对于所有的细节,包括提供的模块:

fastscript

有时,您想为自己或他人创建一个快速脚本。但是在Python中,这涉及到大量的样板文件和繁文缛节,特别是当您希望支持命令行参数、提供帮助和其他细节时。您可以使用argparse来实现这个目的,这是Python自带的,但是它非常复杂和冗长。fastscript使生活更轻松。实际上,这是一个完整的、可工作的命令行应用程序(不需要Python通常要求的任何样板文件,例如if __name__ = =“主要”):

fastscript进口*@call_parsedef主要(味精:参数(“消息”,str),:参数(“转换为大写?”,bool_arg)=):打印(味精()如果其他的味精)

当你运行这个脚本时,你会看到:

美元蟒实例/ test_fastscript.py用法:test_fastscript.py(- h](——上味精test_fastscript上)。以下参数是必需的:msg

fastgpu

fastgpu提供单个命令,fastgpu_poll,它轮询一个目录以检查要运行的脚本,然后在第一个可用的GPU上运行它们。如果没有可用的gpu,它会等待,直到有一个可用。如果有一个以上的GPU可用,多个脚本并行运行,每个GPU一个。这是我们发现的最简单的方法来运行消融研究,利用你所有的gpu,导致不并行处理开销,不需要人工干预。

确认

非常感谢大家谁促成了这些项目取得成果,最特别是对维尔托德Gugger,谁密切与我在过去的两年中fast.ai.工作同时也要感谢所有从支持数据研究所以及fast的联合创始人雷切尔·托马斯。ai教授了数据伦理课程,并在书中开发了大量的数据伦理材料。谢谢各位fast.aicommunity感谢你们所有出色的贡献。