ヴ используется для изображения слогов иностранных слов с согласной [v], которая в японском языке отсутствует. Хотя обычно когда слово заимствуется и "японизируется", неестественный [v] в нём заменяется на [ b]. Так что, бывают варианты написания одного слова и с ヴ, и со знаком ряда バ.
Насчёт написания хираганы: её изначально писали кисточкой по бумаге, и в начертании возникали небольшие различия, типа того, когда кисточку отрывали от бумаги, а когда нет, и оставался след, соединяющий между собой разные черты. Эти различия есть и сейчас, но они воспринимаются японцами как несущественные. Бывают разные почерки, разные шрифты. В русском языке аналогично бывают отличия между почерками, например, как писать цифры 3 и 4 (3 с острым или круглым верхом, 4 с треугольничком или разомкнутую), или в письменной букве т - вариант m.
