連想配列のキー

今書いているプログラムでは、
キーにつかう変数を「"」ではさまないとエラーになる。

エラーになる
 $a[$key]

 

エラーにならない
 $a["$key"]

 

なんで?