解答：
解：（1）如图1所示，过点C作CE⊥x轴于点E，则∠AOB=∠BEC=90°，
∵四边形ABCD为正方形，
∴AB=BC，∠ABC=90°，
∴∠OBA+∠EBC=90°，
又∵∠OBA+∠OAB=90°，
∴∠OAB=∠EBC，
∴△AOB≌△BEC（AAS），
∴BE=OA=4，CE=OB=2，
∴OE=OB+BE=6，
∴点C的坐标为（6，2）．
将C（6，2）代入y=，得 2=，解得 k=12，
∴反比例函数的关系式为y=；
（2）∵A（0，4），
∴OA=4，
当y=4时，x==3，
∴将正方形ABCD沿x轴向右平移3个单位长度时，点A恰好落在反比例函数的图象上．
故答案为：3；
（3）①当点P的坐标为（-5，0）时，四边形ABQP是矩形．
理由如下：
∵由（2）知A（3，4），B（5，0），双曲线上各点关于原点对称，
∴点A与点Q关于原点对称，
∴Q（-3，-4），
∴AO=AQ==5，
又∵PO=OB=5，
∴四边形ABQP是平行四边形，
又∵PB=AQ=10，
∴四边形ABQP是矩形；
②∵A（3，4），F（3，0），
∴OA=5，
设P（x，0），
当△AOF∽△PAF时，=，即=，解得x=-或x=，
∴P（-，0）或（，0）；
当△AOF∽△APF时，
∵AF=AF，
∴OF=PF，
∴P（6，0），
故点P的坐标为（-，0）或（，0）或（6，0）．
