Совершенно ни к чему вычислять расстояние, экономнее сравнивать квадраты расстояний. И в Си нет процедур, есть функции типа void.
#include <stdio.h>
#include <float.h>
void d2(float *z, float x, float y){*z=x*x+y*y;}
int main(){
float x,y,z,dm=FLT_MAX; char cm; for(char c='A';c<='C';c++){
printf("%c(x y): ",c); scanf("%f%f",&x,&y);
d2(&z,x,y); if(z<dm)dm=z,cm=c;} printf("min: %c\n",cm);}