openssl(2)

OpenBSDで非常に嬉しい事の一つに、gdbを使った時、libの中も当たり前のように入って行って眺められる事が挙げられる。他のOSには無い特徴。libだってBUGが潜んでいる可能性は捨てきれない。そんな場合でもlibの中へ躊躇する事無くダイブ出来る事は、信頼性向上に大いに寄与すると思う。

前々から、どう実現してるか調べようと思っていたんだけど、適当なlibに遭遇しなかったんで（規模が大きすぎるんで大変と尻込み）これを機会に探ってみる。

ob$ ls
Makefile        tls.c           tls_config.c    tls_ocsp.c      tls_verify.c
Symbols.list    tls.h           tls_conninfo.c  tls_peer.c
man/            tls_bio_cb.c    tls_internal.h  tls_server.c
shlib_version   tls_client.c    tls_keypair.c   tls_util.c

眼に付くのは、Symbols.listってやつ。どんな内容？

tls_read
tls_reset
tls_server
tls_unload_file
tls_write

一部を列挙してみた。関数リストっぽいな。tls.hに登録されてる関数を適当に抜き出してgrepしたら、含まれていたぞ。

ob$ wc Symbols.list
      90      90    2048 Symbols.list
ob$ fgrep '(' tls.h | fgrep ')' | wc
      74     392    4302

こんないい加減なテストでも、全て網羅してるっぽい。後はMakefileのチェック。最後の所で、何やら見慣れない事をやってた。どんな挙動になるか、走らせてしまえ。

cc -O2 -pipe -g -Wall -Wimplicit -Wundef -Werror -DLIBRESSL_INTERNAL -Wall -Wpointer-arith -Wuninitialized -Wstrict-prototypes -Wmissing-prototypes -Wunused -Wsign-compare -Wshadow  -MD -MP  -c tls_verify.c -o tls_verify.o
building standard tls library
ranlib libtls.a
  :
cc -O2 -pipe -g -Wall -Wimplicit -Wundef -Werror -DLIBRESSL_INTERNAL -Wall -Wpointer-arith -Wuninitialized -Wstrict-prototypes -Wmissing-prototypes -Wunused -Wsign-compare -Wshadow  -MD -MP  -c -p tls_verify.c -o tls_verify.po
building profiled tls library
ranlib libtls_p.a
{ printf '{\n\tglobal:\n';  sed '/^[._a-zA-Z]/s/$/;/; s/^/              /' /tmp/libtls/Symbols.list;  printf '\n\tlocal:\n\t\t*;\n};\n'; } >Symbols.map.tmp && mv Symbols.map.tmp Symbols.map
  :
cc -O2 -pipe -g -Wall -Wimplicit -Wundef -Werror -DLIBRESSL_INTERNAL -Wall -Wpointer-arith -Wuninitialized -Wstrict-prototypes -Wmissing-prototypes -Wunused -Wsign-compare -Wshadow  -MD -MP  -c -fpic -DPIC tls_verify.c -o tls_verify.so
building shared tls library (version 20.1)
cc -shared -Wl,-soname,libtls.so.20.1 -fpic -o libtls.so.20.1  `echo tls.so tls_bio_cb.so tls_client.so tls_config.so tls_conninfo.so tls_keypair.so tls_peer.so tls_server.so tls_util.so tls_ocsp.so tls_verify.so | tr ' ' '\n' | sort -R` -L/usr/obj/lib/libcrypto -lcrypto -L/usr/obj/lib/libssl -lssl -Wl,--version-script=Symbols.map
===> man

静的なライブラリィー、それのプロファイル版、シェアード版と言う具合に３種類のライブラリィーを作っている。それぞれgdbにかけられるように -g フラグを付けている。 この、-g オプションの御利益を受けているんだな。

Symbols.listから作られるmapは、ひょっとしたらプロファイラーあたりが使うんかな。

{
        global:
                tls_accept_cbs;
                tls_accept_fds;
                 :
                tls_write;

        local:
                *;
};

こんな内容だった。システムエリアに登録されてるかと思ったら、皆無だった。気にするな。

折角なのでgdbにかけてみる。知りたいのは、いかにも計算の途中ですって言う '*++*++*+' 言うやつの出している所と、その意味。

gdb openssl で起動するので、実際の起動は一皮むけた状態で与える。

r dhparam -text 16

止める所は、mainならぬ、 dhparam_main あたりになるかな。でつらつら追うと

307                             BIO_printf(bio_err, "Generating DH parameters, %
d bit long safe prime, generator %d\n", num, dhparam_config.g);
(gdb)
Generating DH parameters, 16 bit long safe prime, generator 2
308                             BIO_printf(bio_err, "This is going to take a lon
g time\n");
(gdb)
This is going to take a long time
309                             if (!dh || !DH_generate_parameters_ex(dh, num, d
hparam_config.g, &cb)) {
(gdb)
.++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*

ちょいと行きすぎたので、絞り込み

Breakpoint 7, DH_generate_parameters_ex (ret=0x830f0281800, prime_len=16,
    generator=2, cb=0x7f7ffffc6ee0) at /usr/src/lib/libcrypto/dh/dh_gen.c:75
75      {
(gdb) n
76              if (ret->meth->generate_params)
(gdb)
78              return dh_builtin_genparams(ret, prime_len, generator, cb);
(gdb)
.++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*

更に絞り込み

Breakpoint 12, BN_generate_prime_ex (ret=0xdda6a808600, bits=16, safe=1,
    add=0xddab3b5d000, rem=0xddab3b5d018, cb=0x7f7fffff7d50)
    at /usr/src/lib/libcrypto/bn/bn_prime.c:164
164     {
(gdb) bt
#0  BN_generate_prime_ex (ret=0xdda6a808600, bits=16, safe=1,
    add=0xddab3b5d000, rem=0xddab3b5d018, cb=0x7f7fffff7d50)
    at /usr/src/lib/libcrypto/bn/bn_prime.c:164
#1  0x00000dda20084722 in dh_builtin_genparams (ret=0xdda92c59400,
    prime_len=16, generator=<optimized out>, cb=0x7f7fffff7d50)
    at /usr/src/lib/libcrypto/dh/dh_gen.c:161
#2  DH_generate_parameters_ex (ret=0xdda92c59400, prime_len=16,
    generator=<optimized out>, cb=0x7f7fffff7d50)
    at /usr/src/lib/libcrypto/dh/dh_gen.c:78
#3  0x00000dd7bd1ce7eb in dhparam_main (argc=3, argv=0x7f7fffff83d0)
    at dhparam.c:309
#4  0x00000dd7bd1dbb09 in do_cmd (prog=0xddab3b5a700, argc=3,
    argv=0x7f7fffff83d0) at openssl.c:577
#5  0x00000dd7bd1db553 in main (argc=3, argv=0x7f7fffff83d0) at openssl.c:477
(gdb) finish
Run till exit from #0  BN_generate_prime_ex (ret=0xdda6a808600, bits=16,
    safe=1, add=0xddab3b5d000, rem=0xddab3b5d018, cb=0x7f7fffff7d50)
    at /usr/src/lib/libcrypto/bn/bn_prime.c:164
.++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*++*+
+*++*++*++*++*++*++*++*0x00000dda20084722 in dh_builtin_genparams (ret=0xdda92c5
9400, prime_len=16,
    generator=<optimized out>, cb=0x7f7fffff7d50)
    at /usr/src/lib/libcrypto/dh/dh_gen.c:161
161             if (!BN_generate_prime_ex(ret->p, prime_len, 1, t1, t2, cb))
Value returned is $12 = 1

どうやら、核心部分に迫ってきたな。 ちょいと疲れてきたので、 素数生成アルゴリズムの調査・開発 なんてのを見ている。

素数判定 や 安全素数の生成方法 も面白い。 素数の世界 はじめの一歩 なんてのが、中坊の必須項目になってるらしい。おじさん、うかうかできないね。

(gdb) c
Continuing.
+
Breakpoint 12, BN_is_prime_fasttest_ex (a=<optimized out>, checks=34,
    ctx_passed=0x1364bc369b40, do_trial_division=<optimized out>,
    cb=0x7f7ffffd3278) at /usr/src/lib/libcrypto/bn/bn_prime.c:352
352                     if (!BN_GENCB_call(cb, 1, i))
(gdb) c
Continuing.
+
Breakpoint 12, BN_is_prime_fasttest_ex (a=<optimized out>, checks=34,
    ctx_passed=0x1364bc369b40, do_trial_division=<optimized out>,
    cb=0x7f7ffffd3278) at /usr/src/lib/libcrypto/bn/bn_prime.c:352
352                     if (!BN_GENCB_call(cb, 1, i))
(gdb) c
Continuing.
+

どうやら、.　は、開始、+ は、継続、* は、成功を表しているようだ。

(gdb) s
BN_GENCB_call (cb=0x7f7ffffd3278, a=1, b=3)
    at /usr/src/lib/libcrypto/bn/bn_prime.c:142
142             if (!cb)
(gdb)
144             switch (cb->ver) {
(gdb)
153                     return cb->cb.cb_2(a, b, cb);
(gdb)
+BN_is_prime_fasttest_ex (a=<optimized out>, checks=34,
    ctx_passed=0x1364bc369b40, do_trial_division=<optimized out>,
    cb=0x7f7ffffd3278) at /usr/src/lib/libcrypto/bn/bn_prime.c:352
352                     if (!BN_GENCB_call(cb, 1, i))

流れは分かったけど、.+* のそれぞれの文字は、どうやって出力してるのだろう？　stderrに流れて来るのは分かっているんで、fputsとかfprintfとかにBPを置いたんだけど、引っかかってこないのよ。この他に、stderr送り出来る関数って有ったかなあ？　

広い視点で、素数発生を使っているであろうssh-keygenを調べたら、 BN_GENCB_call を使って呼び出されるのは、 BN_generate_prime_ex だけであった。そして、.+* での報告は無い。

openssl系で、 BN_is_prime_fasttest_ex が呼ばれた時にのみ、状況の報告が有る。