Autobots, assemble!
暑假开摆了许久，最近有了一些学习的动力，终于终于终于刷完了Andrej的课，学习到了当下大语言模型最主流的架构——Transformer。这篇博客主要则是记录我在学习Transformer模型以及通读“Attention is all you need”论文后的一些个人思考和总结。你应该发现了标题是“Autobots, assemble”，如果你和我一样是变形金刚的狂热粉丝，你应该能get到这个小彩蛋。 自注意力机制...
深度学习基础
不知道多久之前就说要写一些关于深度学习的笔记，结果被各种事情导致一拖再拖（当然也有自己懒的因素）。直到今天看完Andrej Karpathy的第三节课，我深知若再不记录，我只会学一点忘一点…… Pytorch InternalsPytorch Internals我这里主要记录关于pytorch中的核心数据结构——张量，其他内容大家感兴趣可以详细阅读上面讲解pytorch内部原理的博客。 张量是pytorch的核心数据结构，他由数据和元数据构成。元数据包括张量的大小，数据类型，张量所依赖的设备（CPU or...
开站首文！
Welcome to my blog!在一顿折腾之后，我的个人博客也成功建立了。建立个人博客原因有许多，一是想记录自己技术栈不断丰富的历程，给我记笔记一些动力。二是分享记录自己的个人生活。三是跟风，很多优秀的程序员都有自己的个人博客，我也就跟着搭建了一个哈哈哈哈哈哈！ 像我上面所说的，博客主要是用来记录生活和学习笔记。学习笔记是阶段性理解，可能有误大家辨证看待。生活方面则比较随性，更多的是闲暇时的思考和球评（其他的私人生活肯定都在朋友圈啦！）。 网站的UI会不断修改，功能也会日趋完善，敬请期待！