Docker は使用していませんが,kvm や V Center は使用しています.
ただしこれらはただの仮想化環境なので,その上に載るOpenSim(およびその他のアプリケーション)とは何の関係もありません.
JOGのメインは全部で大体 50台くらいのサーバ(仮想化サーバを含む)で運用しています.
通信プロトコルについてはLindenのSecond Life の Wiki を見るか,私のメモを見てください.
大雑把に言えば TCP は llsd と呼ばれるXMLデータ で,UDP はバイナリーの独自形式です.
語弊を覚悟で正直に言えば,これらのプロトコルを理解するには,幅広いネットワークとプログラミングの知識が必要になります.
私のゼミの学部生でもこの辺の所を完全に理解している学生はいないと思います.