章节 ▾ 第二版

10.4 Git 内部原理 - Packfiles

Packfiles

如果您遵循了上一节示例中的所有说明,您现在应该有一个包含 11 个对象的测试 Git 仓库 — 其中包含四个 blob、三个 tree、三个 commit 和一个 tag。

$ find .git/objects -type f
.git/objects/01/55eb4229851634a0f03eb265b69f5a2d56f341 # tree 2
.git/objects/1a/410efbd13591db07496601ebc7a059dd55cfe9 # commit 3
.git/objects/1f/7a7a472abf3dd9643fd615f6da379c4acb3e3a # test.txt v2
.git/objects/3c/4e9cd789d88d8d89c1073707c3585e41b0e614 # tree 3
.git/objects/83/baae61804e65cc73a7201a7252750c76066a30 # test.txt v1
.git/objects/95/85191f37f7b0fb9444f35a9bf50de191beadc2 # tag
.git/objects/ca/c0cab538b970a37ea1e769cbbde608743bc96d # commit 2
.git/objects/d6/70460b4b4aece5915caf5c68d12f560a9fe3e4 # 'test content'
.git/objects/d8/329fc1cc938780ffdd9f94e0d364e0ea74f579 # tree 1
.git/objects/fa/49b077972391ad58037050f2a75f74e3671e92 # new.txt
.git/objects/fd/f4fc3344e67ab068f836878b6c4951e3b15f3d # commit 1

Git 使用 zlib 压缩这些文件的内容,而且您存储的内容不多,因此这些文件加起来仅占用 925 字节。现在,我们将向仓库中添加更多内容,以演示 Git 的一个有趣功能。为了演示,我们将添加 Grit 库中的 repo.rb 文件 — 这是一个大约 22KB 的源代码文件。

$ curl https://raw.githubusercontent.com/mojombo/grit/master/lib/grit/repo.rb > repo.rb
$ git checkout master
$ git add repo.rb
$ git commit -m 'Create repo.rb'
[master 484a592] Create repo.rb
 3 files changed, 709 insertions(+), 2 deletions(-)
 delete mode 100644 bak/test.txt
 create mode 100644 repo.rb
 rewrite test.txt (100%)

如果您查看生成的 tree,您可以看到为新的 repo.rb blob 对象计算出的 SHA-1 值。

$ git cat-file -p master^{tree}
100644 blob fa49b077972391ad58037050f2a75f74e3671e92      new.txt
100644 blob 033b4468fa6b2a9547a70d88d1bbe8bf3f9ed0d5      repo.rb
100644 blob e3f094f522629ae358806b17daf78246c27c007b      test.txt

然后,您可以使用 git cat-file 来查看该对象的大小。

$ git cat-file -s 033b4468fa6b2a9547a70d88d1bbe8bf3f9ed0d5
22044

此时,稍微修改一下该文件,看看会发生什么。

$ echo '# testing' >> repo.rb
$ git commit -am 'Modify repo.rb a bit'
[master 2431da6] Modify repo.rb a bit
 1 file changed, 1 insertion(+)

检查上一次提交创建的 tree,您会发现一些有趣的事情。

$ git cat-file -p master^{tree}
100644 blob fa49b077972391ad58037050f2a75f74e3671e92      new.txt
100644 blob b042a60ef7dff760008df33cee372b945b6e884e      repo.rb
100644 blob e3f094f522629ae358806b17daf78246c27c007b      test.txt

该 blob 现在是一个不同的 blob,这意味着即使您只在 400 行的文件末尾添加了一行,Git 也将其存储为一个全新的对象。

$ git cat-file -s b042a60ef7dff760008df33cee372b945b6e884e
22054

您的磁盘上有两个几乎相同的 22KB 对象(每个都压缩到大约 7KB)。如果 Git 能完整存储其中一个,然后第二个对象仅存储与第一个对象的差异,那不是很好吗?

事实证明它可以。Git 最初在磁盘上保存对象是“松散”对象格式。然而,Git 有时会将多个对象打包成一个名为“packfile”的二进制文件,以节省空间并提高效率。如果您有太多松散对象、手动运行 git gc 命令或推送到远程服务器时,Git 就会这样做。要查看会发生什么,您可以手动调用 git gc 命令来让 Git 打包对象。

$ git gc
Counting objects: 18, done.
Delta compression using up to 8 threads.
Compressing objects: 100% (14/14), done.
Writing objects: 100% (18/18), done.
Total 18 (delta 3), reused 0 (delta 0)

如果您查看 objects 目录,您会发现大部分对象都消失了,并出现了一对新文件。

$ find .git/objects -type f
.git/objects/bd/9dbf5aae1a3862dd1526723246b20206e5fc37
.git/objects/d6/70460b4b4aece5915caf5c68d12f560a9fe3e4
.git/objects/info/packs
.git/objects/pack/pack-978e03944f5c581011e6998cd0e9e30000905586.idx
.git/objects/pack/pack-978e03944f5c581011e6998cd0e9e30000905586.pack

剩余的对象是任何 commit 都未指向的 blob — 在本例中是您之前创建的“what is up, doc?”示例和“test content”示例 blob。因为您从未将它们添加到任何 commit 中,所以它们被视为悬空对象,不会被打包到新的 packfile 中。

其他文件是您新的 packfile 和一个索引。packfile 是一个包含从您的文件系统中删除的所有对象的内容的单个文件。索引是一个文件,其中包含 packfile 中的偏移量,这样您就可以快速跳转到特定的对象。很酷的是,尽管在运行 gc 命令之前磁盘上的对象总大小约为 15KB,但新的 packfile 仅为 7KB。通过打包对象,您的磁盘使用量减少了一半。

Git 是如何做到这一点的?当 Git 打包对象时,它会查找名称和大小相似的文件,并仅存储一个版本的文件到下一个版本的差异。您可以查看 packfile,了解 Git 为节省空间做了什么。git verify-pack 这个底层命令允许您查看已打包的内容。

$ git verify-pack -v .git/objects/pack/pack-978e03944f5c581011e6998cd0e9e30000905586.idx
2431da676938450a4d72e260db3bf7b0f587bbc1 commit 223 155 12
69bcdaff5328278ab1c0812ce0e07fa7d26a96d7 commit 214 152 167
80d02664cb23ed55b226516648c7ad5d0a3deb90 commit 214 145 319
43168a18b7613d1281e5560855a83eb8fde3d687 commit 213 146 464
092917823486a802e94d727c820a9024e14a1fc2 commit 214 146 610
702470739ce72005e2edff522fde85d52a65df9b commit 165 118 756
d368d0ac0678cbe6cce505be58126d3526706e54 tag    130 122 874
fe879577cb8cffcdf25441725141e310dd7d239b tree   136 136 996
d8329fc1cc938780ffdd9f94e0d364e0ea74f579 tree   36 46 1132
deef2e1b793907545e50a2ea2ddb5ba6c58c4506 tree   136 136 1178
d982c7cb2c2a972ee391a85da481fc1f9127a01d tree   6 17 1314 1 \
  deef2e1b793907545e50a2ea2ddb5ba6c58c4506
3c4e9cd789d88d8d89c1073707c3585e41b0e614 tree   8 19 1331 1 \
  deef2e1b793907545e50a2ea2ddb5ba6c58c4506
0155eb4229851634a0f03eb265b69f5a2d56f341 tree   71 76 1350
83baae61804e65cc73a7201a7252750c76066a30 blob   10 19 1426
fa49b077972391ad58037050f2a75f74e3671e92 blob   9 18 1445
b042a60ef7dff760008df33cee372b945b6e884e blob   22054 5799 1463
033b4468fa6b2a9547a70d88d1bbe8bf3f9ed0d5 blob   9 20 7262 1 \
  b042a60ef7dff760008df33cee372b945b6e884e
1f7a7a472abf3dd9643fd615f6da379c4acb3e3a blob   10 19 7282
non delta: 15 objects
chain length = 1: 3 objects
.git/objects/pack/pack-978e03944f5c581011e6998cd0e9e30000905586.pack: ok

在这里,033b4 blob,如果您还记得,是您 repo.rb 文件的第一个版本,它引用了 b042a blob,这是该文件的第二个版本。输出中的第三列是 packfile 中对象的大小,因此您可以看到 b042a 占用了文件中的 22KB,而 033b4 仅占用了 9 字节。同样有趣的是,文件的第二个版本是完整存储的,而原始版本则作为差异存储 — 这是因为您最有可能需要更快速地访问文件的最新版本。

最棒的是,这可以随时重新打包。Git 会偶尔自动重新打包您的数据库,始终尝试节省更多空间,但您也可以通过手动运行 git gc 随时手动重新打包。