解:过点0作OE⊥AB于点E,OF⊥BC于点F.
∵AB、BC是⊙O的切线,
∴点E、F是切点,
∴OE、OF是⊙O的半径;
∴OE=OF;
在△ABC中,∠C=90°,AC=6,AB=10,
∴由勾股定理,得
BC=8;
又∵D是BC边的中点,
∴S△ABD=S△ACD,
又S△ABD=S△ABO+S△BOD,
∴
AB?OE+1 2
BD?OF=1 2
CD?AC,即10×OE+4×0E=4×6,1 2
解得,OE=
,12 7
∴⊙O的半径是
;12 7
故选A.