Когда говорим о падеже существительного "собака" в фразе "испугался собаку", здесь используется винительный падеж. В русском языке винительный падеж обозначает прямое дополнение, то есть предмет действия. В данном случае "собаку" указывает на то, кого или что конкретно испугался субъект (он испугался собаку).
Использование винительного падежа обусловлено действием, которое направлено на объект, принимающий непосредственное воздействие. Поэтому при образовании предложений с глаголами, требующими винительного падежа, следует использовать его в отношении объекта действия.
Таким образом, в данном примере существительное "собаку" стоит в винительном падеже, поскольку оно является прямым объектом действия - кого или что именно испугалось существо.