PelicanHPC Tutorial 07 2010 Michael Creel Universitat Autònoma de Barcelona

Puede comprobar si hay versiones más recientes de este documento en http://pelicanhpc.org/Tutorial/PelicanTutorial.html

Contenido

1. Introducción 2. La configuración inicial 3. Ejemplo de software 4. Guardar el trabajo 5. Uso de la secuencia de comandos make_pelican

Introducción

PelicanHPC es un rápido (alrededor de 5 minutos, cuando sabes lo que estás haciendo) los medios de la creación de una informática de alto rendimiento (HPC) de clúster para computación paralela utilizando MPI. Este tutorial ofrece una descripción básica de lo que se PelicanHPC, direcciones de cómo usar las imágenes de CD lanzado a crear un clúster de HPC, y da algunos ejemplos básicos de uso.

Descripción de PelicanHPC

PelicanHPC es una distribución de GNU / Linux que se ejecuta como un "live CD" (también se puede poner en un dispositivo USB, se puede arrancar desde una partición del disco duro, o puede ser utilizado como un sistema operativo virtualizado). Si el archivo de imagen ISO se quema en un CD, el CD resultante puede usarse para arrancar el ordenador. El equipo en el que se inicia PelicanHPC se conoce como el "nodo de interfaz". Es el equipo con el que interactúa el usuario. Una vez PelicanHPC se está ejecutando, un guión - "pelican_setup" - se puede funcionar. Este script configura el nodo frontend como un servidor de arranque en red. Después de esto se ha hecho, otros equipos pueden tener las copias de arranque de PelicanHPC través de la red. Estos otros equipos se conocen como "nodos de cómputo". PelicanHPC configura el grupo formado por el nodo frontend y los nodos de cómputo, para que basados en la computación paralela MPI-se puede hacer.

Un "Live CD", como PelicanHPC por defecto no utiliza los discos duros de cualquiera de los nodos (excepto el espacio de intercambio de Linux, si es que existe), por lo que no va a destruir o alterar su sistema operativo instalado. Cuando el clúster PelicanHPC se cierra, todos los equipos están en su estado original, y se iniciará de nuevo en lo que los sistemas

operativos están instalados en ellos. PelicanHPC opcionalmente se puede hacer para utilizar espacio de disco duro, por lo que su estado puede ser preservada a través de las botas. Puede ser configurado para que arranque sin intervención de usuario, con posibilidad de acceso por ssh. También existe la posibilidad de hacer el cálculo de arranque nodos utilizando Wake-on-LAN. Con estas características opcionales más avanzados, PelicanHPC se puede utilizar para ejecutar un grupo permanente sin cabeza.

PelicanHPC se hace usando Debian GNU / Linux como base, a través de la de Debian del sistema. Es producido mediante la ejecución de un script único mediante el comando "make_pelican sh". Versiones personalizadas de PelicanHPC, por ejemplo, que contiene paquetes adicionales, se puede hacer fácilmente mediante la modificación de la secuencia de comandos script.The make_pelican make_pelican y los paquetes necesarios se proporcionan en PelicanHPC, para que pueda construir una imagen personalizada utilizando las imágenes proporcionadas. También puede ejecutar make_pelican de cualquier distribución GNU / Linux.

Características

El nodo de interfaz puede ser un ordenador real arrancado con un CD o un dispositivo USB, o una máquina virtual que se inicia con el archivo de imagen de CD. Con esta última opción, PelicanHPC se puede utilizar en el momento mismo que el ambiente de trabajo normal, que puede ser cualquiera de los sistemas operativos comunes.

Los nodos de cómputo son normalmente los equipos reales, para un máximo rendimiento, pero también puede ser virtual.

Apoya base de cálculo paralelo MPI Fortran usando (77, 90), C, C + + y GNU Octave.

Ofrece la Open MPI aplicación del MPI. Clúster puede cambiar el tamaño para agregar o quitar nodos con el

"pelican_restarthpc" comando. Fácilmente extensible para añadir paquetes. También fácilmente modificables, ya

que la imagen de CD PelicanHPC se crea con un único guión que se basa en el de Debian del sistema. Por esta razón, la versión distribuida es básico y ligero.

Existen versiones para 32 bits CPU (Pentium 4, Core, Sempron) y para 64 bits CPU (Opteron, Turion, Core 2, etc)

Contiene software de ejemplo: Linpack HPL (ahora en versión 2.0) y extenso ejemplos de referencia que utilizan GNU Octave . También ha mpi4py .

Limitaciones y exigencias

Los nodos de cómputo debe iniciarse en la red. Esta es una opción que ofrece todos los modernos dispositivos de red suministrado con las placas base, pero a menudo deben estar habilitadas en la configuración del BIOS. Que pueda, y darle una mayor prioridad que arranque desde el disco duro o de otras fuentes. Si usted tiene una tarjeta de red que no hará arranque en red, es posible evitar este uso de rom-o-matic .

Un grupo PelicanHPC está diseñado para ser utilizado por una sola persona.

Licencias y Responsabilidad

PelicanHPC es una imagen de CD producido mediante la ejecución de un script (ver más abajo). El guión es licencia GPL v3. La imagen del CD resultante contiene el software de la Debian distribución de GNU / Linux, que está sujeto a las licencias elegido por los autores de dicho software.

Esta libertad PelicanHPC imágenes de CD se distribuye con la esperanza de que sea útil, pero SIN NINGUNA GARANTÍA, incluso sin la garantía implícita de COMERCIALIZACIÓN o IDONEIDAD PARA UN PROPÓSITO PARTICULAR.

La configuración inicial

Los dos comandos principales para la administración de la agrupación son "pelican_setup", para configurar la interfaz como un servidor, la exportación NFS / home, etc, y "pelican_restarthpc", que se utiliza para agregar o quitar nodos después de la instalación inicial. El resto de lo que explica cómo funciona esto.

La interfaz y todos los nodos de cómputo deben ser conectados en red. IMPORTANTE: el nodo frontend actuará como servidor DHCP, así que asegúrese de aislar la red que se utiliza para el clúster de otras redes, para evitar conflictos con otros servidores DHCP. Si inicia la entrega de direcciones IP a los compañeros de trabajo sus equipos, pueden llegar a ser molesto. Si el nodo frontend tiene múltiples interfaces de red, puede usar uno para conectarse al clúster y otro para conectarse a Internet.

Ponga el CD en el equipo que será el interfaz, y vuelva a encenderlo. Asegúrese de que la configuración de la BIOS permite arrancar desde el CD. Al arrancar, verás algo como lo siguiente. En este caso, si pulsa <Tab>, usted tiene la oportunidad de entrar en las opciones para configurar las asignaciones de teclado, o especiales "cheatcodes" para el arranque de CD en el hardware problemático. Por ejemplo, puedo conseguir un teclado en español por <Tab> presionando y luego agregó que "keyb = es" a la configuración predeterminada. Cualquiera de explorar las opciones, destacando la línea de ayuda y presionando <Intro> o editar las opciones por <Tab> urgentes, o simplemente pulse <Intro> para arrancar con la configuración predeterminada.

Una vez que arranque, con el tiempo que se ve:

Esta pantalla le da la oportunidad de utilizar un dispositivo de almacenamiento permanente para el directorio / home del usuario PelicanHPC. De forma predeterminada, si usted sólo tiene que pulsar <Intro>, los discos duros no se utilizan, y PelicanHPC no modifica ninguno de los equipos que se utilizan en el clúster. Esto es seguro y fácil, pero tiene el inconveniente de que el trabajo que hace desaparece al apagar el clúster. Para utilizar el almacenamiento permanente, usted puede escribir el nombre de un dispositivo (partición de disco duro, unidad USB, etc) que tiene un formato ext2 o ext3, que será montado en / home. Por ejemplo, puede reemplazar "RAM1" con "sda2" o "hdb5" (sin comillas). Si usted hace esto, un directorio de "usuario" se creará en la raíz del dispositivo especificado, y se utilizará como el directorio home del usuario de racimo (nombre de usuario "usuario"). Si se cierra el grupo, el directorio no ser eliminado, y se puede volver a utilizarse cuando se reinicia PelicanHPC. Si usted tiene alguna duda acerca de esto, basta con pulsar <Intro>. Para la experimentación casual, usted no necesita esta función. Esta función se proporciona para su conveniencia para los usuarios avanzados. Es imposible probar esta función en todas las configuraciones de hardware posibles, por lo que NO SE HACEN GARANTÍAS QUE NO DESTRUIR TU DISCO DURO. Copia de seguridad de sus datos antes de intentar cualquier cosa, pero por defecto.

A continuación, podrás ver

Usted probablemente querrá elegir "sí", a menos que se vuelvan a utilizar el trabajo que ha guardado en una sesión anterior.

A continuación, se le pedirá que cambie la contraseña por defecto:

Usted debe de retroceso para eliminar el defecto y escriba una nueva contraseña. Esta será la contraseña para el usuario "usuario" en el nodo frontend y en todos los nodos de cómputo, también.

Por último, todos ustedes son arranca y aparece la entrada del sistema:

Escriba el nombre de usuario "usuario" y luego la contraseña que ha establecido hace un momento.

Ahora que se registran en:

Tenga en cuenta que puede entrar en el enterface gráfico Xfce si decide por escribir "startx". De forma predeterminada, PelicanHPC utiliza la consola, sólo para evitar posibles problemas con el hardware de gráficos inusual.

Para configurar un clúster, escriba "pelican_setup". Usted puede hacer esto desde la consola como en estas instrucciones, o de Xfce mediante la apertura de un terminal. A continuación, vemos lo siguiente, suponiendo que usted tiene más de un dispositivo de red:

Después de elegir el dispositivo de red, los servicios deben iniciarse. Por favor, lea la advertencia en la siguiente captura de pantalla. Configuración de un servidor dhcp PelicanHPC te meten en problemas con la red de administradores de tu si lo hace en una red abierta. Usted debe asegurarse de que el dispositivo de red que se utiliza para el clúster está aislado de todas las redes, excepto el grupo. Cuando vea la siguiente pantalla, seleccione "sí".

A continuación verá

Pulse entrar, y salir a su vez en los nodos de cómputo.

Cuando uno empieza a calcular el nodo de arranque de red, verá este genio por:

Cuando un nodo de cómputo se realiza el arranque, puedes encontrar esto, suponiendo que tiene un monitor:

De vuelta en el nodo frontend, verá lo siguiente:

Una vez que un nodo ha arrancado, la cuenta sube:

No dejan de golpear "no" hasta que todos los nodos de cómputo han arrancado. Una vez que haga clic en Sí, verás algo como lo siguiente, dependiendo de cuántos nodos que tiene.

Tenga en cuenta cómo me escriba "lamnodes" para comprobar que realmente funcionaba.

Bueno, eso es todo, el grupo está listo para usar. Algunos otros consejos:

puede agregar software para el nodo frontend con "apt-get install lo que sea", suponiendo que la interfaz cuenta con una red segunda tarjeta que ha configurado para permitir el acceso a Internet. Este software no está disponible en los nodos de cómputo. Para agregar software para que esté disponible a todos los nodos, debe estar instalado en algún lugar de / home / usuario.

MPI la configuración por defecto está en el archivo / home / usuario / tmp / bhosts. Este asigna clasificaciones a los anfitriones en una forma de round robin. Si sus anfitriones tienen velocidades diferentes, el número de núcleos, etc, debe modificar este archivo y re-lamboot (si el uso del MELA). Si el nodo frontend es virtual, pero los nodos de cómputo son reales, probablemente debería eliminar el nodo frontend de los cálculos.

ksysguard está disponible, y una pequeña cantidad de esfuerzo que se convierten en un monitor de clúster agradable. Ver este mensaje para obtener información general sobre la manera de hacerlo.

si necesita de otros paquetes, quisiera establecer su propia contraseña por defecto, entonces usted puede hacer su propia versión muy fácilmente usando el script make_pelican que está disponible en la página de inicio PelicanHPC. Esto se explica (un poco) a continuación.

Puede cambiar el tamaño del clúster (agregar o quitar nodos de cómputo) siempre que lo desee, mediante la ejecución de "pelican_restarthpc".

IMPORTANTE: En la home / usuario de la guía / es el archivo pelican_config. Este archivo contiene los interruptores de opciones avanzadas que permiten realizar acciones como el uso de almacenamiento permanente, el arranque sin intervención del usuario, el

cambio de la red del clúster, Wake-on-LAN, etc Varios usuarios no necesitan para explorar, pero la gente quiere que un grupo permanente debería verlo. Es auto-documentado.

Volver al índice

Ejemplo de software

PelicanHPC tiene el Linpack HPL de referencia, y algunos ejemplos de la amplia el campo de la econometría que el uso de GNU Octave . Econometría es un campo de estudio que aplica los métodos estadísticos a los modelos económicos. El software está en el directorio Econometría:

No es un documento "econometrics.pdf" que tiene una gran cantidad de información, incluyendo algunos de computación paralela sobre:

Abre un terminal, escribe "octava" y luego "kernel_example" (por favor, tenga en cuenta que subrayar de nuevo allí, la música ... por favor, maestro):

et viola! algunas fotos:

Esa última imagen de pantalla y muestra el resultado de kernel_example.m si se ejecuta en serie, con un solo núcleo. Para ver cómo funcionan en paralelo, vea la siguiente fotografía:. NOTA las rutinas del núcleo no hacer cálculos en el rango 0 (se utiliza para recoger los resultados), por lo que debe especificar al menos dos filas de MPI.

Otras cosas a tratar son "bfgsmin_example", "mle_example", "gmm_example", "mc_example" y algunos otros me estoy olvidando. Para saber si el código es, el tipo de "ayuda mc_example", por ejemplo, mientras que en Octave. A continuación, vaya editar el archivo correspondiente para obtener más información acerca de lo que hace. O, mientras que en Octave, escriba "editar bfgsmin_example" (o editar lo que quieras) y el archivo se encuentra en la ruta de octava se abrirá en el editor vim.

Volver al índice

Guardar el trabajo

De forma predeterminada, las imágenes PelicanHPC poner / home / usuario en un disco de memoria que desaparece al apagar. Tendrá que guardar su trabajo entre períodos de sesiones, si desea volver a utilizarlo. Hay muchas opciones, tales como montar un disco duro, utilizando un dispositivo USB, etc Si usted tiene una conexión a Internet configurado, puede enviarlo por correo electrónico a ti mismo, como se ilustra en la siguiente fotografía:

Si utiliza PelicanHPC para un trabajo serio, es muy conveniente para montar un dispositivo de almacenamiento para utilizar como / home, para que su trabajo se guarda entre sesiones sin tomar ninguna medida especial. Al arrancar el nodo interfaz, usted tiene la opción de seleccionar un dispositivo de almacenamiento para su uso. Esta es una característica para los usuarios avanzados, y yo recomendamos encarecidamente que dedique una partición de disco duro para su uso con PelicanHPC. Si utiliza una partición con otros datos sobre él, debe asegurarse de que una copia de seguridad antes de usarlo con PelicanHPC! ext2 y ext3 en formato Sólo se sabe que funcionan. Esta característica ha sido probado con un conjunto muy limitado de equipos, a fin de utilizarlo con precaución. También existe la opción de montar automáticamente un volumen que tiene un nombre especial. Ver pelican_config en / home / usuario. Esta es la mejor solución para los usuarios que quieran utilizar PelicanHPC sobre una base a largo plazo.

Volver al índice

Uso de la secuencia de comandos make_pelican

Las imágenes ISO distribuidos proporcionar un clúster de configuración del sistema al descubierto los huesos, además de algunos paquetes que uso en mi investigación y la docencia. Hay algunos ejemplos tomados de mi trabajo, que pueden ser de interés para los

que aprenden los conceptos básicos de MPI, o para las personas interesados en la econometría. Sin embargo, muchos usuarios encontrarán que Pelican no contiene los paquetes que necesitan. Si uno utiliza pelican_config correctamente, es posible dar a todos los nodos del clúster de acceso a Internet a través de la conexión del nodo de interfaz, de modo que los paquetes pueden ser simplemente añadido a partir de "apt-get". Sin embargo, algunos usuarios prefieren tener una versión de atención al cliente al de la imagen del CD. PelicanHPC es producido mediante la ejecución de un script único "make_pelican", que está disponible en la página de descarga , y también en las imágenes en libertad. Si tiene los requisitos previos para ejecutar el script, es muy fácil de hacer una versión personalizada de Pelican requisitos. Los requisitos previos están instalados en PelicanHPC, para que pueda construir una versión personalizada con la libertad son de la versión. El:

una versión instalada de GNU / Linux. Esto puede ser una instalación mínima en una cárcel chroot si lo prefiere para ejecutar algo más de su trabajo normal. Incluso puede utilizar una máquina virtual en Windows, si usted es un usuario de Windows.

el vivir a la generación de paquetes. Utilice la versión disponible en Debian. Está disponible como un archivo. Deb, y también como código fuente para su uso con otras distribuciones. También es necesario y rsync paquetes debootstrap.

examinar la secuencia de comandos make_pelican, que contiene algunos comentarios se explica por sí mismo. Añadir los paquetes que necesita para la sección de lista de paquetes. Tenga en cuenta que usted puede elegir una contraseña diferente aquí.

tiene que ejecutar el script make_pelican como usuario root. Una conexión rápida a Internet es útil, ya que una gran cantidad de paquetes que se deban descargar. Además, ayuda a construir la imagen de una forma rápida, es de esperar computadora multi-núcleo. Las partes del proceso de construcción son en paralelo y se aprovechará de múltiples núcleos. El tiempo de construcción para la configuración por defecto en un ordenador portátil de doble núcleo decente con mucha memoria RAM es de aproximadamente media hora.

cuando haya terminado, habrá un archivo "binary.iso" en el .. / <arquitectura> directorio / frontend, donde .. / es la ubicación de la secuencia de comandos make_pelican y <arquitectura> es o i386 o amd64, según en el que dejó sin comentar en el guión.

Hay un manual para Debian Live . Por favor, eche un vistazo en que antes de intentar utilizar make_pelican. Información adicional se encuentra en http://debian-live.alioth.debian.org/ . Esta información es la documentación principal, ya que make_pelican es un script que ofrece una configuración específica para el sistema Live de Debian de la construcción de una imagen de CD en vivo. Asimismo, recuerda que "el hombre vive-ayudante", "hombre lh_config" y "lh_build hombre" le dará la información.