推测解码（Speculative Decoding）是谷歌等机构在 2022 年发现的大模型推理加速方法。它可以在不损失生成效果前提下，获得 3 倍以上的加速比。GPT-4 泄密报告也提到 OpenAI 线上模型推理使用了它。针对如此妙的方法，香港理工大学、北京大学、MSRA 以及阿里共同推出 ...

这篇文章研究的是自监督去噪任务。作者提出的方法，虽然从论文的讲述上来看，是从 DIP 出发，但实际上最后演化的形式我认为和 DIP 已经毫无关系了。另外 DIP 是在一个 image 上训练，这篇文章则是在整个 noise dataset 上训练。这篇文章的自监督学习思路和 ...

泛读。这篇文章研究的是 DIP 的理论性质。这篇文章似乎发到 nips 上了，但是我仍然认为这篇文章缺乏价值。这篇文章试图证明DIP的计算框架可以用来实现压缩感知重建，并且能够给出一个看起来很不错的理论。假设 S 表示网络 G 的值域，作者用的引理是，若 G ...

未来标准化的软件最后都会被 SaaS 化，卖软件的生意会日益缩水，市场上定制的软件会越来越多。 10月20日，Coding正式对外发布“码市”，码市是一个基于众包的软件外包平台，链接企业发包方（甲方）和程序员（乙方）。 现实软件外包过程中，甲方的烂尾率达 ...