既生BERT,何生LLM? 本文稍微研究了一下BERT的论文,从现在的角度去看BERT,也许很简陋,各种方面都被LLM打爆,但这个作为Transformer应用的经典案例,不可不读 论文地址 Pre-training of Deep Bidirectional Transformers for Language Understanding 用于语言理解的深度双向转换器的预训练 在学习之前...

前言 银行家算法不是万能的,在现实生活中,很多程序并不知道自己要占用多少资源(贷款多少钱),和有多少的资源额度上限(信用额度) 死锁 死锁是什么 死锁是指在计算机操作系统中，两个或多个进程无限期地等待系统资源，而这些资源又被等待的进程所占有。这导致了这些进程都无法向前执行。以下是一些常见的死锁条件： 1 互斥条件：一个资源每次只能被一个进程使用。 2 持有等待：一个进程因请求资源而阻...

Knowledge is all you need 一般来说 参数量越大的模型运行结果越好,但是越大的参数量就越是烧钱,训练烧钱,,微调烧钱,运行烧钱. 同时市面上的大模型也不敢保证覆盖到了人类的每一个知识方面,在这一点上,有人提出了低秩微调(LoRA),相比于训练,只需要更少的资源就可以获得某一个方面特化的模型,但这还不够节省,于是RAG出现了 RAG是什么 RAG，全称为Retr...

撒花!!! 再来400积分我就可以换一件T恤力

部分图片待更新 问题所在 叔叔B站电脑端首页太烂了,很多广告,而且不相干的推荐,如果使用诸如ADBlock等类似的插件的话会使得顶部出现一个恶心人的弹窗!! 像是这种:检测到您的页面展示可能受到浏览器插件影响，建议您将当前页面加入插件白名单，以保障您的浏览体验～ 提出解决方案 省流版本:通过监听 DOM 变化和滚动事件，不断地查找并移除页面上的特定元素。 主要采用了 Mutati...

烂尾中 等待后续填坑更新 为什么要进程管理 进程死锁问题 对于进程死锁,常见的几种算法 信号量的应用 利用信号量来描述前驱关系 利用前驱图 一开始S1先给S2,S3压力(a,b)(signal(S3),signal(S3)) S1压力完了后 S2 S3可以开始活动, S2开始给S4,S5压力(c,d) S2压力结束 S4 S5可以活动 最后S3,S4,...

我是手动分割线 众所周知,环境配置是一件非常麻烦的事情 对于python来说,anaconda就是他的专用环境包管理软件 对于node来说,nvm就是他的专用环境包管理软件 而Docker提供的功能要比上面说的更为强大,他的出现拯救了一大堆的Linux运维,再也不用担心跑什么应用报错了,直接运行别人的docker仓库就能直接开跑,爽的批爆 docker来源 Docker 是一个开...

前言 很多时候,配环境和编译代码非常麻烦,Makefile提供了一种自动化的编译方式,能够解放程序员的双手,一句make就能走天下 什么是Makefile Makefile 是一种编程语言，主要用于自动化编译和程序构建。它是由 GNU Make 工具解析的，这个工具可以解析 Makefile 文件中的指令，然后执行相应的命令来构建程序。Makefile 文件通常包含一系列的规则，这些规则...

写在前头的话 在开始学习 LINUX 内核编程之前，我们需要了解一些基本的操作系统和编程知识。这将帮助我们更好地理解和使用 LINUX 内核。 什么是LINUX内核编程 LINUX 内核编程是指直接与 LINUX 内核交互的编程。这通常涉及到使用系统调用、编写设备驱动、修改内核源代码等。 用户层编程和内核编程模块的区别   应用程序 ...

写在前头的话 前几天各大云服务器厂都在降价,阿里云平均商品降价20%,根据阿里云官方的说法,以后上云变成了常态化,随着云计算技术的发展和普及，越来越多的企业和个人开始选择使用云服务器。云服务器提供了强大的计算能力，高度的可扩展性，以及灵活的付费方式，使得用户可以根据自己的需求灵活地使用和支付计算资源。 云服务器的降价趋势反映了云计算市场的竞争激烈。各大云服务提供商为了吸引更多的用户，不断...