天才黑客GeorgeHotz开源了一个小型深度学习框架tinygrad-飞外网

最近,天才黑客 George Hotz 开源了一个小型深度学习框架 tinygrad,兼具 PyTorch 和 micrograd 的功能。tinygrad 的代码数量不到 1000 行,目前该项目获得了 GitHub 1400 星。

在深度学习时代,谷歌、Facebook、百度等科技巨头开源了多款框架来帮助开发者更轻松地学习、构建和训练不同类型的神经网络。而这些大公司也花费了很大的精力来维护 TensorFlow、PyTorch 这样庞大的深度学习框架。 除了这类主流框架之外,开发者们也会开源一些小而精的框架或者库。

比如今年 4 月份,特斯拉人工智能部门主管 Andrej Karpathy 开源了其编写的微型 autograd 引擎 micrograd,该引擎还用 50 行代码实现了一个类 PyTorch api 的神经网络库。目前,micrograd 项目的 GitHub star 量达到 1200 星。 不久前,天才黑客 George Hotz(乔治 · 霍兹)开源了一个小型 Autograd Tensor 库 tinygrad,它介于 PyTorch 和 micrograd 之间,能够满足做深度学习的大部分要求。上线不到一个月,该项目在 GitHub 上已经获得 1400 星。

项目地址:https://github.com/geohot/tinygrad 根据 GitHub 内容,下文对 tinygrad 的安装与使用做了简要介绍。感兴趣的同学也可通过 George Hotz 的 YouTube 视频进行学习。

视频地址:https://www.youtube.com/channel/UCwgKmJM4ZJQRJ-U5NjvR2dg tinygrad 的安装与使用 「tinygrad 可能不是最好的深度学习框架,但它确实是深度学习框架。」 George 在项目中保证,tinygrad 代码量会永远小于 1000 行。 安装 tinygrad 的安装过程非常简单,只需使用以下命令:

示例 安装好 tinygrad 之后,就可以进行示例运行,代码如下: from tinygrad.tensor import Tensorx = Tensor.eye(3)y = Tensor([[2.0,0,-2.0]])z = y.matmul(x).sum()z.backward()print(x.grad) # dz/dxprint(y.grad)#dz/dy 使用 torch 的代码如下:

import torchx = torch.eye(3, requires_grad=True)y = torch.tensor([[2.0,0,-2.0]], requires_grad=True)z = y.matmul(x).sum()z.backward()print(x.grad) # dz/dxprint(y.grad) # dz/dy

满足对神经网络的需求 一个不错的 autograd 张量库可以满足你对神经网络 90%的需求。从 tinygrad.optim 添加优化器(SGD、RMSprop、Adam),再编写一些 minibatching 样板代码,就可以实现你的需求。 示例如下:

支持 GPU tinygrad 通过 PyOpenCL 支持 GPU。但后向传播暂时无法支持所有 ops。

from tinygrad.tensor import Tensor(Tensor.ones(4,4).cuda() + Tensor.ones(4,4).cuda()).cpu() ImageNet

推断 「麻雀虽小,五脏俱全。」tinygrad 还能够支持 full EfficientNet,输入一张图像,即可得到其类别。

ipython3 examples/efficientnet.py https://upload.wikimedia.org/wikipedia/commons/4/41/Chicken.jpg

如果你安装了 webcam 和 cv2,则可以使用以下代码:

ipython3 examples/efficientnet.py webcam

注意:如果你想加速运行,设置 GPU=1。 测试 运行以下代码可执行测试:

python -m pytest

此外,乔治 · 霍兹还计划添加语言模型、检测模型,进一步减少代码量、提升速度等。

该项目的创建者是著名黑客乔治 · 霍兹,别号 Geohot。 他于 1989 年出生在美国新泽西州,曾就读于罗切斯特理工学院生物工程专业和卡内基梅隆大学计算机科学系。 然而,乔治 · 霍兹在自己的 LinkedIn 主页上教育经历描述里是这么写的:

在罗切斯特理工学院就读期间,他的社团活动是「在宿舍黑 iPhone」…… 这是他著名的黑客经历之一。2007 年,17 岁的乔治 · 霍兹成功破解 iPhone 手机,使手机不再局限于 AT&T 网络,而是支持其他 GSM 网络。2009 年,他开发出一款针对 iOS 3.1.2 的越狱软件 blackra1n。2010 年,乔治 · 霍兹宣布不再进行越狱软件的开发。

然而,他的黑客行动并未停止。 2009 年起,乔治 · 霍兹开始破解 PlayStation 3(PS3)。2010 年初,他宣布得到了 PS3 系统内存的读写权限和处理器的高级控制权。2011 年 3 月,乔治 · 霍兹被索尼起诉,后和解。 此外,乔治 · 霍兹还破解过三星手机等产品。 就工作经历而言,他曾在谷歌、Facebook、SpaceX 工作过。目前,他在自己创立的自动驾驶公司 comma.ai 任职。 2015 年,乔治 · 霍兹创立了人工智能创业公司 comma.ai,旨在基于机器学习算法构建自动驾驶技术。

乔治 · 霍兹开发出自动驾驶套件 Comma One,只需 1000 美元,用户就能将传统汽车升级成自动驾驶版本。不过,后来这一计划被取消。 2020 年,在 CES 大会上,comma.ai 展出了其最新产品——辅助驾驶设备 Comma Two,售价 999 美元。 comma.ai 公司还开源了辅助驾驶系统 openpilot,参见:https://github.com/commaai/openpilot。 参考链接:https://zh.wikipedia.org/wiki/%E4%B9%94%E6%B2%BB%C2%B7%E9%9C%8D%E5%85%B9 https://en.m.wikipedia.org/wiki/George_Hotz

责任编辑:xj

原文标题:不到1000行代码,GitHub 1400星,天才黑客开源深度学习框架tinygrad

文章出处:【微信公众号:人工智能与大数据技术】欢迎添加关注!文章转载请注明出处。


基于OpenCV开源库开发的在OpenHarmony中实现车牌识别   张荣 OpenHarmony 知识体系工作组 介绍 本车牌识别项目是基于开源项目 EasyPR(.... OpenAtom OpenHarmony 发表于 06-30 11:16 • 111次
vuepress-theme-reco Vuepress主题 ./oschina_soft/gitee-vuepress-theme-reco.zip 发表于 06-30 10:24 •
Timely在线客服系统 ./oschina_soft/gitee-timely_service.zip 发表于 06-30 10:12 •
DSShop单店铺B2C商城 ./oschina_soft/gitee-DSShop_open.zip 发表于 06-30 09:49 •
如何在IP的kernel module里设置并使用IP interrupt 用附件里的 system-user.dtsi 把 project-spec/meta-user/re.... FPGA之家 发表于 06-30 09:48 •
MISRA C可用于提高软件质量考虑 通过定义 C 语言的可预测子集并为开发人员提供指导,MISRA C 为嵌入式控制系统和独立软件的.... 发表于 06-30 09:27 •
【开发教程5】开源蓝牙心率防水运动手环-电池电量检测 蓝牙心率防水运动手环 ——疯壳·智能穿戴开发系列电池电量检测 1ADC 简介ADC(Analog-... 发表于 06-29 19:17 • 3645次
MASS竞猜幸运哈希游戏系统开发中冲突的解决方法 3.2 链地址法 链地址法就是将相应位置上冲突的所有关键词存储在同一个单链表中。 设关键字序列为 4.... 開發丨KFZ433 发表于 06-29 16:51 • 165次
代码永远不应陷入无限循环,但逻辑错误或未发生预期的外部事件可能会导致代码挂起。当代码在等待某事发.... 星星科技指导员 发表于 06-29 15:43 • 100次
使用测试自动化左移您的安全关键软件测试 在某些软件安全标准中,例如 DO-178B 和 DO-178C,认证是在系统级别完成的,个别工具.... 星星科技指导员 发表于 06-29 14:25 •
第三届无代码探索者大会将于7月6日盛大开幕 第三届无代码探索者大会将于7月6日盛大开幕,该大会是轻流举办的年度产品发布会,将揭晓轻流的最新产品功.... 科技数码 发表于 06-29 11:38 •
万岳在线教育系统WEB版 ./oschina_soft/gitee-wanyue_education_web.zip 发表于 06-29 09:58 •
随着静态分析工具的使用成为软件开发过程中不可或缺的一部分,这些工具的功能可以决定获得的整体价值。.... 星星科技指导员 发表于 06-29 09:34 •
如何使用计算机上的本地仓库以及GitHub上托管的远程仓库呢 添加远程仓库要新增远程,请在终端上存储仓库的目录中使用 git remote add 命令。git remote add 命令使用两个参数:例如:... 发表于 06-22 16:57 • 966次
【飞控开发高级篇7】疯壳·开源编队无人机-编队飞行 COCOFLY教程——疯壳无人机·系列编队飞行图1 一、编队飞行&nb... 发表于 06-14 18:41 • 2000次
B站超火的开源小电视,0元包邮免费送!(文内附开源资料) 本项目由B站UP主 私の名はMisaka 开源分享。非常有意思的开源项目,开源的资料以及免费领取成品的方式都分享给大家~B站... 发表于 06-13 15:03 • 10020次
【飞控开发高级篇5】疯壳·开源编队无人机-视觉追踪 COCOFLY教程开源编队无人机——疯壳·无人机·系列视觉追踪 图... 发表于 06-13 14:25 • 2879次