padeoe的小站

记录一个坑爹的小问题，买了张七彩虹 4070 Ti Super 16GB 做推理用，结果用了一段时间，开机后会风扇狂转，并 nvidia-smi 输出报错、掉卡。

搜索到一篇帖子 折磨两月，总算找到4090黑屏风扇狂转的问题了，说是因为电源线没有插紧，试了下果然有效，本文记录下，SEO下方便检索到参考。

顺便记录下超微主板 H13SSL-N 风扇间歇性狂转的问题（供应商竟然和我说是正常的），可以用 impitool 调整风扇转速保持恒定。

~Update: 本文提的 Issue 在 huggingface-hub 的main分支已解决，暂未发版，大家可以手动安装main分支版本。~

huggingface-hub 目前对于 HF_ENDPOINT 的支持存在几个 bug，已经给官方提了 issue，在修复前，先记录下临时解决方案。

Read More.

执行以下命令后再打开被sni阻断的域名

Mac OS

open -a "Google Chrome" --args --origin-to-force-quic-on=hf-mirror.com:443

Windows/Linux

/path/to/chrome.exe  --origin-to-force-quic-on=hf-mirror.com:443

Update: 推荐 huggingface 镜像站： https://hf-mirror.com

Update: 推荐官方的 huggingface-cli 命令行工具、以及本站开发的 hfd脚本。

本文已发表至知乎 https://zhuanlan.zhihu.com/p/663712983。

Stackoverflow 上有个AI开发入门的最常见问题 How to download model from huggingface?，回答五花八门，可见下载 huggingface 模型的方法是十分多样的。

其实网络快、稳的话，随便哪种方法都挺好，然而结合国内的网络环境，断点续传、多线程下载等特性还是非常有必要的，否则动辄断掉重来很浪费时间。基于这个考虑，对各类方法做个总结和排序：

方法类别		推荐程度	优点	缺点
基于URL	浏览器网页下载	⭐⭐⭐	通用性好	手动麻烦/无多线程
	多线程下载器	⭐⭐⭐⭐	通用性好	手动麻烦
CLI工具	git clone命令	⭐⭐	简单	无断点续传/冗余文件/无多线程
专用CLI工具	huggingface-cli+hf_transfer	⭐⭐⭐	官方下载工具链，功能最全	无进度条/容错性低
	huggingface-cli	⭐⭐⭐⭐⭐	官方下载工具	不支持多线程
Python方法	snapshot_download	⭐⭐⭐	官方支持，功能全	脚本复杂/无多线程
	from_pretrained	⭐	官方支持，简单	不方便存储，功能不全
	hf_hub_download	⭐	官方支持	不支持全量下载/无多线程

另外对于数据集的下载和模型基本相同，同理参考。

以下对上述方法进行介绍，并介绍几个常见问题：

• Q1: 如何下载 Llama 等需要登录的模型？
• Q2: 如何利用镜像站下载hf模型？
  Read More.

利用 name.com 的 REST API 随手写了个 name.com 的 DDNS 脚本：

Read More.

最近给 Git 配置代理，发现给 SSH 配置有认证的代理并不容易，没找到直接的教程，其实由于 ssh:// 形式的 Git 链接会走 SSH 协议，问题已经转化为 ssh 如何配置有认证的代理，这样就好搜到相关资料了，为方便后来者检索，本文对 git 的代理配置做个总结。

Git 支持 http 和 ssh 两种传输协议，前者就是 git clone https://github.com/xxx/xxx 这种形式的 URL，后者是 git clone [email protected]/xxx.git 这种形式。由于是两种不同的协议，因此要分协议单独配置。

Read More.

Pixel 自用，分享出来：

captive.padeoe.com

使用方法：

adb shell "settings put global captive_portal_http_url http://captive.padeoe.com";
adb shell "settings put global captive_portal_https_url https://captive.padeoe.com";

服务端使用 caddy 搭建的，配置仅3行：

http://captive.padeoe.com https://captive.padeoe.com {
    respond 204
}

今年五月份，看到了第二届法研杯的比赛介绍，是个法律NLP的竞赛，由于所在公司也是做的法律领域，就用些业余时间做了一下。这也是我第一次参加比赛，最后获得了总榜第二名的成绩，现在把一些比赛经历和心得记录一下。

赛题简介

项目代码见 https://github.com/padeoe/cail2019，报告会 PPT下载链接。

关于比赛 Read More.

本文提供 另一个 html 版本。

Bert 是 Google 在 2018 年 10 月提出的一种新的语言模型，全称为 Bidirectional Encoder Representations from Transformers（Bert）。和近年来的一些语言模型譬如 ELMo 不同，BERT 通过在所有层联合调节左右两个上下文来预训练深层双向表示，此外还通过组装长句作为输入增强了对长程语义的理解。Bert 可以被微调以广泛用于各类任务，仅需额外添加一个输出层，无需进行针对任务的模型结构调整，就在文本分类，语义理解等一些任务上取得了 state-of-the-art 的成绩。

Bert 的两种用法

Bert 的论文中对预训练好的 Bert 模型设计了两种应用于具体领域任务的用法，一种是 fine-tune（微调） 方法，一种是 feature extract（特征抽取） 方法。

Read More.

本文对 Docker 数据挂载容易产生的各种问题进行分析，应用几种常见解决方案，抽丝剥茧，提出最佳实践。本文中的样例命令全部可以运行复现。

1. 初探：Docker volume 绑定挂载导致的问题

Docker 提供了数据卷绑定挂载的机制(volume bind mounts)来将主机上的文件 (file) 或者目录 (directory) 挂载进容器 (container)。也就是 docker run 命令中熟知的 -v 参数。根据 Docker 官方文档，绑定挂载一般适合于三种场景：

• 共享主机 配置文件。譬如将主机的 DNS 配置文件 /etc/resolv.conf 挂载到容器里省去配置。
• 共享项目 源代码 和 构建产物。譬如将 maven 项目的 target 目录挂载到容器内。
• 当主机的特定目录结构和容器内需要的目录结构完全一致的时候。

但是实际使用时，会遇到如下文件权限问题：

Read More.