本周,Facebook 的 AI 研究团队发布了一个 Python 工具包,专门针对 GPU 加速的深度神经网络(DNN)编程。它有望辅助、或在一定程度上替代,现有的 Python 数学、统计库(比如 NumPy)。它实现了机器学习框架 Torch 在 Python 语言环境的执行。开发团队表示,除 Facebook ...
PyTorch 1.11、TorchData 和 functorch 现已推出。 近日,PyTorch 官方宣布推出 PyTorch 1.11,此版本由 1.10 版本以来的 3,300 多次 commits 组成,由 434 位贡献者完成。此外,本次 PyTorch 官方同时发布了受 JAX 启发的库 TorchData 和 functorch 的 Beta 版本。 假如你是一名长期的 ...
前段时间,机器学习开源框架 PyTorch 提供了对 AMD ROCm 的支持,现在可作为 Python 软件包提供。 作为一款被学术界和工业界广泛使用的开源机器学习框架,PyTorch 近日发布了最新的 1.8 版本,1.8 版本的发布,使得 PyTorch 加入了对 AMD ROCm 的支持,可以方便用户在原生 ...
近日,PyTorch 官方分享了如何实现无 CUDA 计算,对各个内核进行了微基准测试比较,并讨论了未来如何进一步改进 Triton 内核以缩小与 CUDA 的差距。 在做大语言模型(LLM)的训练、微调和推理时,使用英伟达的 GPU 和 CUDA 是常见的做法。在更大的机器学习编程与 ...
llm.c 是 Karpathy 用 C 语言(外加一点点 C++)从零开始写的一个 Transformer 训练框架 为什么要写 llm.c? 事情是这样的:一年前,Karpathy 想在他的视频系列(Karpathy非常喜欢分享AI技术)中添加一个关于 LLM 训练的视频,于是他开始用 PyTorch 写代码。结果,他被 PyTorch ...
快科技4月28日消息,据媒体报道,日前谷歌Python工程师、Python指导委员会成员Thomas Wouters在社交媒体上发布了一条消息,称谷歌解雇了Python团队。 此消息一出就惊动了领域内的很多开发者,PyTorch创始人、Meta杰出工程师Soumith Chintala表示:“显然谷歌解雇了整个 ...