三歩あるけば物も忘れる

Azureではデフォルトの受信規則で、仮想ネットワークからの通信は全てのプロトコル/ポートで受信許可になっているようです。有難迷惑ですね
優先度は100 ～ 4096の範囲で設定可能なので、4096に仮想ネットワークからの通信を拒否する設定を入れておいた方がよさそうです。
https://www.nobtak.com/entry/nsg0

送信規則も仮想ネットワークとインターネットへの通信許可がデフォルトで入っているようです。Azure嫌いになりそう
半端に入れるくらいなら全ての通信に対して許可を入れておいて欲しいですね。