Kenta Oono

> Do we really need deteministic behavior only for testing? If we can test the case in which the `dropout` option is not 0 without deterministic behavior, we do not...

いいですね．KLの亜種ですが，JS距離などもでしょうか？

まとめページとは別に，これらの不等式はまとめて「確率分布間の比較」として1つのカテゴリに入れてもいいかなと思います

はい，JSはJensen--Shannonを意図していました．KLダイバージェンスに関しては「KL距離」と呼ぶことも多いので（[参考1](https://ja.wikipedia.org/wiki/カルバック・ライブラー情報量), [参考2](https://www.jstage.jst.go.jp/article/jsiamt/23/3/23_KJ00008829126/_pdf)），それの類推でJS距離という風に表現しました．前の自分のコメントは，何かの出典から取ってきて使ったわけではありません（混乱させてすみません）．この呼び方に強いこだわりを持っているわけではないのですし，数学の意味での距離と区別するために，JSダイバージェンスという言い方の採用するほうが良いと思います．

ありがとうございます．内容的には問題ないので，もし可能ならばPRとして送っていただくことは可能でしょうか？Chromeのextensionでmathjaxの数式を確認すると，うまくレンダリングできていない部分がありますが，おそらくアンダースコアを適切にエスケープすれば直せると思います．

> 想定環境は「chrome拡張でmathjaxを見る」なのでしょうか。 想定環境は特に決めていませんでしたが，GitHub上で直接確認できるのが便利なため，自分はChromeのmathjax拡張を利用していました．Chromeの拡張ではエスケープすると正しくレンダリングができました． Chromeの拡張を用いてGitHub上でファイルを直接見られるのは便利なのですが，多くの人が利用しているエディタ（atom，vscode，macdownなど）でエラーとなるというのは不便なので，考える必要があると思っています．（両立できれば理想的ですが，今の所そのような解決策は思いついていません）

また，携帯電話この数式などが見られると便利なのですが，AndroidのChromeではmathjax拡張がないので，携帯電話ではそもそもGitHub上で正しく数式が表示されません．ですので現在の記法はPCでChrome拡張を用いて見る時のみをサポートできている状態となっています．

もとのHypercontractive不等式からは離れてしまいますが，エスケープ処理の違いに関して少し調査を行いました（必要ならば別issueにして議論をしても良いかもしれません） `_`を`\_`と書かなければいけない問題は，sphinxを使えば解決ができそうです． `\{`を`\\{`と書かなければいけない問題に関しては，（ブラウザが？）バックスラッシュ`\`を（TeXと異なり）エスケープ記号として利用するために起こる問題のようです．同様の理由から，mathjaxでtexを扱う場合には改行はバックスラッシュを4つ（`\\\\`）使う必要があるようです．詳しくはmathjaxの，[このドキュメント](http://docs.mathjax.org/en/latest/tex.html#tex-and-latex-in-html-documents)）の"Some content-management systems use ..."のパラグラフをご参照ください．

mathjaxのレンダリングの問題が未解決ですが，ひとまずHypercontractive不等式についてエントリを作るPRを作成しました（#23）．一点ご相談なのですがこの不等式はREADMEの中でどのカテゴリの式として扱うのが良いでしょうか？現状暫定的に集中不等式のところに置いています．

今検討しているのは，今あるmarkdownのファイルたちからSphinxでHTMLのドキュメントを生成し，ReadTheDocsというホスティングサイトにドキュメントをデプロイするというものです．[このような](https://ml-formulas.readthedocs.io/ja/latest/)感じになります．このHTML版のドキュメントはSphinxがインストールされていればローカルでもこのドキュメントを生成することができますので，markdownのプレビュー機能が使えるエディターで原稿を書き，完成したらローカルでドキュメントを生成してちゃんとレンダリングされるかを確認するなどのワークフローが可能です（前述のHTMLは[rtdブランチ](https://github.com/delta2323/ml-formulas/tree/rtd)の`docs`ディレクトリ中で`make html`とコマンドを打てば生成できます）． ただ，ドキュメント生成ツールとして，Sphinx + ReadTheDocsよりよいものがあるかどうかは検討の余地があります．SphinxはもともとPythonパッケージのドキュメントを書くためのツールで，このような使い方はあまり想定されていないと思われるため，やりたいことが全てできるかはまだわかりません（Sphinxを選んだのは，自分が他のライブラリの開発のプロジェクトで使った経験があったためです）．また，SphinxのreStructured textが主に想定されており，markdownサポートがどのくらい充実しているかはきちんと調べられていません．