Hola Felipe, en el caso del comando ginput tenes dos opciones: la primera es escribir [x,y]=ginput en esta opción vas a la imagen y haces todos los clicks que querés y cuando querés terminar apretas la tecla enter y listo, las coordenadas de los clicks te quedan guardadas en x e y. La otra opción es escribir [x,y]=ginput(n) donde n va a ser la cantidad de clicks que querés que se hagan (por ejemplo n=20), en este caso vas a la imagen y haces clicks, cuando llegues a la n cantidad de clicks se termina solo y las coordenadas te quedan guardadas en x e y.

Después, cuando se te congele el Octave probá con Ctrl+Alt+Supr para abrir el Administrador de Tareas de tu pc y finalizar el proceso de Octave desde ahí (con esto no es necesario que reinicies la pc). Igual es raro que se te tranque tanto.

Algo que te recomiendo es ir haciendo el script de a poco e ir probando, así en caso de que se te tranque y tengas que se cerrar el Octave tu progreso no se pierde. Probá esas cosas y cualquier cosa preguntá de nuevo.

Saludos,
Bruno