Начало координат - это тоже точка. А расстояние между двумя точками вычисляется по теореме Пифагора - как длина гипотенузы, при этом катеты - это, вот в данном частном случае (нулевые координаты одной из точек), просто координаты каждой точки. То, что тут не плоскость, а трёхмерное пространство, влияет лишь на вид теоремы Пифагора. Там не два катета, а три. Но формула та же: квадрат гипотенузы равен сумме квадратов (трёх) квадратов катетов
Ну чисто к примеру: для точки А катеты равны 4, 2 и 4 (знак в данном случае не играет никакой роли - нам всё равно от нуля отсчитывать). Квадраты - 16, 4 и 16. Сумма квадратов - 36. Так что длина гипотенузы, она же расстояние до начала координат, - 6.