proceso de evaluación de usabilidad · marco de referencia manual de estrategia de gobierno en...

35
Proceso Veeduría Distrital Secretaría Distrital de Educación Secretaría Distrital de la Mujer de Evaluación de Usabilidad a los Portales de las Siguientes Entidades Distritales:

Upload: others

Post on 20-Jul-2020

1 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

Proceso

Veeduría Distrital Secretaría Distrital de EducaciónSecretaría Distrital de la Mujer

de Evaluación de Usabilidada los Portales de las Siguientes

Entidades Distritales:

Page 2: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

Proceso

Veeduría Distrital Secretaría Distrital de EducaciónSecretaría Distrital de la Mujer

de Evaluación de Usabilidad

a los portales de las siguientes Entidades Distritales:

Convenio Alta Consejería Distrital de TIC

Vivelab-Bogotá - Laboratorio de Usabilidad

Universidad Nacional de Colombia

Informe Resumen

Page 3: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

Introducción

Marco de Referencia

Manual de estrategia de Gobierno en Línea.Lineamientos y metodologías en Usabilidad para Gobierno en Línea.Parámetros de evaluación heurísitca de Jakob Nielsen.Govimentum.

Portal de la Veeduría Distrital

Fase 1: Documento de validación bajo parámetros heurísticos.Fase 2: Informe de usabilidad pruebas con usuarios portal de la Veeduría Distrital.

Portal de la Secretaría Distrital de la Mujer

Fase 1: Documento de validación bajo parámetros heurísticos.Fase 2: Informe de usabilidad pruebas con usuarios portal de la Secretaría Distrital de la Mujer.

Portal de la Secretaría Distrital de Educación

Fase 1: Documento de validación bajo parámetros heurísticos.Fase 2: Informe de usabilidad pruebas con usuarios portal de la Secretaría Distrital de Educación del Distrito.

4

5

55

6

7

8

9

13

17

18

23

26

27

32

Contenido

PROCESO DE EVALUACIÓN DE USABILIDAD

Page 4: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

Introducción

4PROCESO DE EVALUACIÓN DE USABILIDAD

La Alcaldía de Bogotá en su esfuerzo de establecer lineamientos en la creación, despliegue y operación de los portales web distritales, y con el objetivo de dar cumplimiento a las normas nacionales que promueven la transparencia y el acceso a la información pública, ideó a través la Alta Consejería Distrital de TIC, la plataforma CMS Govimentum, una iniciativa que procura la estandarización de los sitios web del Distrito, prefigurando características funcionales para el manejo de contenidos digitales.

Por lo anterior y conforme a esta estrategia, en la que radica una preocupación institucional por dar cumplimiento a la normativa Nacional respecto al manejo de sitios web —Gobierno en Línea, Ley de Transparencia—, así como un interés por alcanzar a la ciudadanía en general, y en particular al público de cada entidad distrital, la Alta Consejería Distrital de TIC, a través del ViveLab Bogotá de la Universidad Nacional de Colombia, desarrolló un proceso de evaluación de usabilidad de la plataforma Govimentum, a partir del análisis de tres portales web de entidades distritales con distinto estado de implementación de esta plataforma:

El proceso, desarrollado entre el mes de diciembre de 2016 y el mes de marzo de 2017, contó con un enfoque que comprendió dos fases: En la primera, fueron desarrolladas evaluaciones de experto (evaluación heurística) a los contenidos e interacciones de los portales, sin contar allí con la participación de los funcionarios de las entidades inspeccionadas; en la segunda, fueron desarrolladas pruebas de usabilidad, donde fueron aplicados protocolos específicos de prueba a usuarios reales de cada entidad implicada en la evaluación, definidos según un trabajo colaborativo con funcionarios de las instituciones partícipes.

Los resultados de cada fase desarrollada por el equipo de expertos en usabilidad, fueron compartidos con cada uno de los equipos encargados de la programación, diseño, y administración de contenidos de los portales evaluados, a fin de procurar mejoras a corto y mediano plazo en los sitios web.

Veeduría Distrital (Implementación total).

Secretaría Distrital de la Mujer (Implementación parcial).

Secretaría de Educación del Distrito (No implementada).

1

Page 5: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

5

Marco deReferenciaManual de estrategia de Gobierno en Línea

Lineamientos y metodologíasen Usabilidad para Gobiernoen Línea

Este manual desarrolla en cuatro capítulos, los siguientes componentes que soportan el desarrollo de la estrategia de Gobierno en Línea: TIC para Servicios; TIC para Gobierno Abierto; TIC para Gestión y Seguridad; y Privacidad de la Información.

El propósito de la estrategia de Gobierno en Línea, es lograr que los ciudadanos cuenten con servicios en línea de muy alta calidad, impulsar el empoderamiento y la colaboración de los ciudadanos con el Gobierno, encontrar diferentes formas para que la gestión en las entidades públicas sea óptima gracias al uso estratégico de la tecnología, y garantizar la seguridad y la privacidad de la información. Este manual ofrece la descripción, logros, criterios, recursos (tales como guías, normas, etc) y los lineamientos necesarios para dar cumplimiento a los objetivos de este proyecto.

Lineamientos incluidos dentro del Manual de Gobierno en Línea, como el LI.INF.09, señalan la necesidad de garantizar “mecanismos que permitan el acceso a los servicios de información por parte de los diferentes grupos de interés, contemplando características de accesibilidad, seguridad y usabilidad” (2010), sin embargo, aún no existe o no está descrita la manera cómo han de asegurarse estos principios en los portales web estatales, lo que es claro, es la preocupación existente porque se cumplan.

Con el ánimo de atender la preocupación de los entes estatales por brindar una mejor experiencia a los ciudadanos en la interacción con los portales web del Estado, el documento de Lineamientos y metodologías en usabilidad para Gobierno en Línea, publicado en el año 2010, busca conceder una guía de trabajo para el desarrollo y el mantenimiento de los sitios web estatales.

El documento, establece las directrices de obligatorio cumplimiento para sitios web del orden nacional, territorial y distrital de la República de Colombia, presenta en seis capítulos, una serie de requerimientos respecto a la arquitectura de información, el diseño de interfaz de usuario, el diseño de interacción, las pruebas de usabilidad y el contenido de los portales.

Los lineamientos, que además exponen el impacto, la evidencia, los roles encargados de su cumplimiento, los comentarios y la verificación son, sin embargo, presentados como una lista de chequeo que no responde a la especificidad en la situación de cada sitio web.

Producto entonces de esta ausencia señalada, los numerales: 5.1. Evaluación heurística, 5.2 Test de Usuario, y 5.3 Diseño y evaluación iterativos, sugieren una validación de usabilidad, en principio por un set de expertos, seguido por la observación de la interacción de usuarios reales, como estrategia para asegurar los propósitos de la iniciativa de Gobierno en Línea.

PROCESO DE EVALUACIÓN DE USABILIDAD

Page 6: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

6

Parámetros de evaluación heurística de Jakob Nielsen

La evaluación heurística verifica el cumplimiento de principios de usabilidad de una interfaz. Aunque varios expertos han apuntado a diferentes criterios, estableciendo una lista bastante extensa de verificación, son aquellos parámetros señalados por Jakob Nielsen, en el año 1994, los que conservan mayor vigencia en este tipo de evaluaciones.

Los parámetros heurísticos, sintetizados por Nielsen en diez (10) criterios, son empleados por personal experto como referencia para apuntar errores y realizar comentarios sobre una interfaz.

Cada anotación —llámese ésta error o comentario— realizada por los expertos, recibe además un nivel de severidad, según la importancia que representa respecto a la interacción de los usuarios. La evaluación, que conlleva una primera etapa de análisis, efectuado cuidadosamente por cada uno de los expertos según los criterios, y una etapa posterior donde son consolidados los hallazgos individuales, deriva en un informe que conserva los apuntes de mayor relevancia respecto a la interfaz, así como recomendaciones para el ajuste de ésta.

A continuación, son señalados y descritos brevemente los 10 criterios establecidos por Nielsen:

Visibilidad del estado del sistema

El sistema debería mantener siempre informados a los usuarios sobre lo que está sucediendo a través de una retroalimentación apropiada dentro de un lapso de tiempo razonable.

Correspondencia entre el sistema y el mundo real

El sistema debería hablar el lenguaje del usuario, con palabras, frases y conceptos familiares al usuario en lugar de términos orientados al sistema. Hay que seguir las convenciones del mundo real, haciendo aparecer la información en un orden natural y lógico.

Control y libertad por el usuario

Los usuarios eligen a menudo funciones del sistema por error y necesitarán una "salida de emergencia" claramente diferenciada para abandonar el estado no deseado sin tener que recorrer un extenso diálogo. Hay que facilitar las opciones de "deshacer" y "rehacer".

Estándares y consistencia

Los usuarios no deberían tener que preguntarse si diferentes palabras, situaciones o acciones significan lo mismo. Hay que seguir las convenciones de plataforma.

Prevención de errores

Mucho mejor que elaborar buenos mensajes de error es llevar a cabo un cuidadoso diseño que evite que el problema ocurra en primer lugar.

Reconocer en lugar de retroceder

Hay que hacer los objetos, las opciones y las acciones visibles. Los usuarios no deberían tener que recordar información de una parte del diálogo a otra. Las instrucciones para el uso del sistema deberían ser visibles o fácilmente accesibles siempre que fuera preciso.

1

2

3

4

5

6

PROCESO DE EVALUACIÓN DE USABILIDAD

Page 7: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

7

Flexibilidad y eficiencia de uso

Los "aceleradores", inadvertidos por los usuarios noveles, incrementan a menudo la velocidad de interacción para el usuario hasta tal punto que el sistema puede dar cobertura tanto a los usuarios expertos como a los inexpertos. Hay que permitir a los usuarios la posibilidad de acomodar diversas opciones.

Diseño estético y minimalista

Los diálogos no deberían contener información irrelevante o raramente requerida. Cada unidad extra de información en un diálogo compite con unidades relevantes de información y disminuye su visibilidad relativa.

Ayudar a los usuarios a reconocer, diagnosticar y recuperarse de los errores

Los mensajes de error deberían expresarse en un lenguaje sencillo (nada de códigos), indicando de forma precisa el problema y sugiriendo de forma constructiva una solución.

Ayuda y documentación

Aunque lo ideal es que el sistema pudiera ser utilizado sin documentación, puede ser preciso proporcionar ayuda y documentación. Cualquier información debería ser fácil de buscar, enfocada en la tarea del usuario, con una lista de pasos concretos para desarrollar y no demasiado extensa.

7

8

9

10

GovimentumLa Alta Consejería Distrital de TIC busca, a través de este proyecto:

[...] establecer los lineamientos que deben de ser adoptados por las entidades distritales en la creación, despliegue y operación de sitios y portales web institucionales, con el fin de dar cumplimiento a las normas nacionales que promueven la transparencia y el acceso a la información pública a los ciudadanos a través de Internet (2016).

La iniciativa, que convoca a las diferentes entidades distritales, hace un particular énfasis en la Ley de Transparencia según la cual se han de articular sistemas de información que permitan la eficiencia en la gestión pública.

Bajo el marco de trabajo señalado y como primera fase de evaluación de la implementación del proyecto Govimentum, se propone entonces, el análisis de los portales web de la Veeduría Distrital, (Institución que ya implementó los parámetros), de la Secretaría Distrital de la Mujer (Institución que implementó parcialmente) y la Secretaría de Educación del Distrito (Institución que no ha realizado la implementación), a fin de evaluar el impacto de la iniciativa en principios de usabilidad para los sitios web distritales.

Éste resumen consigna el proceso adelantado con las tres entidades, entre los meses de noviembre de 2016 y marzo de 2017, abordando los dos documentos de validación entregados a las entidades, como resultado de cada fase descrita.

PROCESO DE EVALUACIÓN DE USABILIDAD

Page 8: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

PROCESO DE EVALUACIÓN DE USABILIDAD

Veeduría Portal de la

Distrital(http://www.veeduriadistrital.gov.co/)

Page 9: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

9

FASE 1: Documento de validaciónbajo parámetros heurísticos

Métricas de análisisComo se mencionó anteriormente, la plataforma fue evaluada según los 10 parámetros establecidos por Jakob Nielsen en 1994 y la matriz de verificación de lineamientos en usabilidad de Gobierno en Línea (2010):

PROCESO DE EVALUACIÓN DE USABILIDAD

Evaluación deUsabilidadPortal de la Veeduría Distrital(http://www.veeduriadistrital.gov.co/)

(http://www.veeduriadistrital.gov.co/)

Este documento presenta un informe de análisis y validación de parámetros del portal web de la Veeduría Distrital de Bogotá a 10 de Enero de 2017, según el marco ofrecido por la iniciativa Govimentum (2016), la evaluación heurística de Jakob Nielsen (1994), los Lineamientos y metodologías en usabilidad para Gobierno en Línea (2010), el Manual de Estrategia de Gobierno en Línea (2015), y la Guía de sitios web para el Distrito Capital (2016).

El análisis del portal fue realizado empleando la metodología de evaluación heurística, durante diez sesiones de trabajo en las que tres expertos del laboratorio de usabilidad ViveLab Bogotá comprobaron el cumplimiento de principios de usabilidad, utilizando como criterio los diez (10) parámetros heurísticos (Visibilidad del estado del sistema, correspondencia entre el sistema y el mundo real, control y libertad por el usuario, estándares y consistencia, prevención de errores, reconocer en lugar de retroceder, flexibilidad y eficiencia de uso, diseño estético y minimalista, ayudar a los usuarios a reconocer, diagnosticar y

recuperarse de los errores, y ayuda y documentación), establecidos por Jakob Nielsen (1994) para validación de contenidos digitales, y 235 directrices de usabilidad para Gobierno en Línea (2010).

Cada una de las secciones del sitio fue evaluada, según nueve categorías en las que fueron divididas las 235 directrices, anotando errores o comentarios detectados, asignando a cada uno un grado de severidad, según la relevancia que representan en la navegación del sitio por parte de los usuarios.

En cada uno de los parámetros evaluados se presentan los errores encontrados, así como imágenes de soporte y explicaciones detalladas de los hallazgos, discriminados por grado de severidad, complementados por sugerencias y referentes para realizar mejoras en el portal. Como apoyo al análisis, se presenta una gráfica que señala la relación de cumplimiento, por categoría, de los lineamientos en usabilidad para Gobierno en Línea.

Page 10: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

10

Parámetros heurísticosde Jakob Nielsen

(1994)

Visibilidad del estado del sistema

Página de inicio

Orientación de las tareas y funcionalidad del sitio

Navegabilidad y arquitectura de la información

Formularios y entrada de datos

Confianza y credibilidad

Calidad del contenido y escritura

Diagramación y diseño gráfico

Búsquedas

Ayuda, reconocimiento y recuperación de errores

Control y libertad por el usuario

Estándares y consistencia

Prevención de errores

Reconocer en lugar de retroceder

Flexibilidad y eficiencia de uso

Diseño estético y minimalista

Ayuda y documentación

Ayudar a los usuarios a reconocer, diagnosticar y recuperarse de los errores

Correspondencia entre el sistema y el mundo real

Categoría # de Directrices

A

B

C

D

E

G

F

H

I

194427231121382032

PROCESO DE EVALUACIÓN DE USABILIDAD

Page 11: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

11PROCESO DE EVALUACIÓN DE USABILIDAD

Escala de severidad

Los errores identificados por el equipo de expertos, fueron clasificados en una escala de severidad, donde 1 se establece como el error de mayor gravedad, y 4 aquel de menor importancia.

Grado de severidad 1: Error catastrófico que causa pérdidas de datos irrevocables o daños al hardware o software del sistema. Fallos a gran escala que impiden la realización del trabajo de muchas personas. La realización es tan mala que el sistema no puede alcanzar las metas de negocio.

Grado de severidad 2: Problemas severos que causan posibles pérdidas de datos. El usuario no encuentra forma de solucionar el problema por su cuenta y se requiere asistencia técnica para la resolución del problema.

Grado de severidad 3: Problemas moderados que causan la pérdida no permanente de información, pero se pierde tiempo. Existen mecanismos para superar el problema por parte del usuario. las inconsistencias internas se traducen en un incremento del aprendizaje y las tasas de error. Una función o característica importante es que no trabaja como se esperaba.

Grado de severidad 4: Problemas menores pero irritantes. En general no causa pérdidas de datos pero la sucesión de problemas ralentiza la actividad de los usuarios. Violaciones mínimas de las percepciones afectan a la apariencia o la percepción y errores que son recuperables.

Resultados en la primera fase de la evaluación de usabilidad Veeduría Distrital

Fig. 1 - Gráfica de cumplimiento según directrices de Gobierno en Línea.

Tabla 1 - Desempeño general del portal según directrices de Gobierno en Línea.

Cumplimiento ideal

Directrices evaluadas

Desempeño Generalde cumplimiento51,04%

235

11226

97Directrices cumplidas

Directrices incumplidas

No aplicadirectrices

Cumplimiento medio

Cumplimiento actual

**Se anota que las directrices que no aplicaron a la evaluación fueron aquellas que, por ejemplo, refieren a compras on-line, debido a la naturaleza de los portales.

Page 12: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

12

Página de inicio

Orientación de las tareas y funcionalidad del sitio

Navegabilidad y arquitectura de la información

Formularios y entrada de datos

Confianza y credibilidad

Calidad del contenido y escritura

Diagramación y diseño gráfico

Búsquedas

Ayuda, reconocimiento y recuperación de errores

Categoría % de Cumplimiento

A

B

C

D

E

G

F

H

I

42,11%32,95%37,04%56,52%77,27%66,67%42,11%

42,19%62,50%

PROCESO DE EVALUACIÓN DE USABILIDAD

Tabla 2 - Desempeño por categorías del portal según directrices de Gobierno en Línea.

Páginas ejemplo del informe provisto por los expertos en

Existen puntos muertos en la navegación: 1. Sección de “Eventos”, no presenta ningún tipo de información al usuario diferente a un calendario. 2. Enlace “Premio al Control Social 2016” en ruta “Entidad”,”Información de interés”, “Convocatorias”, se encuentra deshabilitado. 3. Sección “Presupuesto”, en navegación de submenú de categoría “Entidad” presenta un texto que literalmente cita “Este es el texto para cambiar”. Este supone un error garrafal, considerando la desactualización de la que el apartado es sujeto, y de la drástica alteración en las expectativas de los usuarios.

1. Alimentar la sección con información veraz, que sea evidente para el usuario. 2. Redireccionar enlace. Si el contenido ya no existe, retirarlo de la página. 3. Actualizar la información del apartado. En caso de que no exista la información para complementar la sección, es mejor recurrir a un mensaje honesto que deje claro al usuario la situación, algo del tipo “En este momento no se encuentra la información disponible. Próximamente será actualizada esta sección”.

la primera fase

Page 13: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

13PROCESO DE EVALUACIÓN DE USABILIDAD

Page 14: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

14PROCESO DE EVALUACIÓN DE USABILIDAD

FASE 2: Informe de usabilidad pruebas con usuarios portal de la Veeduría Distrital (http://www.veeduriadistrital.gov.co/)

Este documento presenta un análisis de usabilidad con usuarios, del portal web de la Veeduría Distrital. Las pruebas fueron realizadas aplicando las metodologías de testeo con usuarios y acompañamiento de expertos; el grupo de investigación decidió realizar seis pruebas, en las que el equipo del ViveLab, el de la Veeduría Distrital y el de la Alta Consejería Distrital TIC, participaron en los procesos de definición de actividades, observación y análisis de la información.

Las pruebas se realizaron por medio de una metodología diseñada con base en la experiencia de los equipos: para iniciar, le fue indicado al usuario que el propósito de la prueba era evaluar el sitio web de la Veeduría Distrital. Posteriormente, le fue solicitado al usuario el desarrollo de una serie de tareas que requerían de su navegación en todo el portal. Finalmente, el usuario recibió una compensación por su participación en las pruebas.

La duración estimada del test fue de 40 minutos por cada participante. Se obtuvieron datos de un total de 6 usuarios efectivos en el análisis, los cuales desarrollaron una prueba de navegación del portal que fue registrada en audio y video para posterior análisis del equipo de usabilidad.

Descripción de la prueba

Test de pruebas con acompañamiento de facilitador, interacción con el portal, análisis

Perfil del participante

Fueron definidos dos perfiles de usuario para la realización de la prueba:

Tipo de reclutamiento y compensación

Sesiones

Ambiente de investigación

Métricas de análisis

simultáneo con observadores invitados de la Veeduría Distrital y la Alta Consejería Distrital TIC, y observadores expertos del laboratorio de usabilidad de ViveLab Bogotá.

Ciudadanos que laboran en otras entidades distritales (3 personas).Ciudadanos del público en general (3 personas).

Los ciudadanos fueron reclutados por el equipo de la Veeduría Distrital y el de la Alta Consejería Distrital de TIC.Los participantes recibieron una memoria USB Kingston de 8GB como compensación.

La prueba fue realizada en dos sesiones de trabajo: El viernes 17 de febrero, y el lunes 20 de febrero de 2017.

La plataforma fue evaluada según 5 métricas establecidas por los expertos de acuerdo a la naturaleza del portal y el propósito del análisis:

ViveLab Bogotá - Laboratorio de Usabilidad.Ubicación: Avenida el Dorado Carrera 45 # 26 – 33.Teléfono: 3165000 ext. 10904.

Page 15: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

15PROCESO DE EVALUACIÓN DE USABILIDAD

Diseño de interfaz y problemas técnicos.Reconocimiento de los servicios que ofrece el portal web.Navegabilidad y arquitectura de la información.Perfil de usuario del portal.Validación del Contenido del Portal Web.

1.2.

3.

4.5.

Resultados en la segundafase de la evaluación deusabilidad del portal web dela Veeduría Distrital

Los resultados de las pruebas con usuarios, fueron clasificados en conjunto por los equipos del ViveLab, la Veeduría Distrital y la Alta Consejería Distrital de TIC. Los hallazgos respecto a cada problema, fueron organizados de acuerdo con los dos perfiles de usuario participantes en el ejercicio.

Page 16: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

16PROCESO DE EVALUACIÓN DE USABILIDAD

Page 17: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

PROCESO DE EVALUACIÓN DE USABILIDAD

(http://www.sdmujer.gov.co/)

SecretaríaPortal de la

Distritalde la Mujer

Page 18: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

18

Métricas de análisisLa plataforma fue evaluada según los 10 parámetros establecidos por Jakob Nielsen en 1994 y la matriz de verificación de lineamientos en usabilidad de Gobierno en Línea (2010):

PROCESO DE EVALUACIÓN DE USABILIDAD

FASE 1: Documento de validaciónbajo parámetros heurísticos

Evaluación deUsabilidadPortal de la Secretaría

(http://www.sdmujer.gov.co/)

(http://www.sdmujer.gov.co/)

Distrital de la Mujer

Este documento presenta un informe de análisis y validación de parámetros del portal web de la Secretaría Distrital de la Mujer a 27 de Enero de 2017, según el marco ofrecido por la iniciativa Govimentum (2016), la evaluación heurística de Jakob Nielsen (1994), los Lineamientos y metodologías en usabilidad para Gobierno en Línea (2010), el Manual de Estrategia de Gobierno en Línea (2015), y la Guía de sitios web para el Distrito Capital (2016).

El análisis del portal fue realizado empleando la metodología de evaluación heurística, durante diez sesiones de trabajo en las que tres expertos del laboratorio de usabilidad del ViveLab Bogotá, comprobaron el cumplimiento de principios de usabilidad, utilizando como criterio los diez (10) parámetros heurísticos (Visibilidad del estado del sistema, correspondencia entre el sistema y el mundo real, control y libertad por el usuario, estándares y consistencia, prevención de errores, reconocer en lugar de

retroceder, flexibilidad y eficiencia de uso, diseño estético y minimalista, ayudar a los usuarios a reconocer, diagnosticar y recuperarse de los errores, y ayuda y documentación), establecidos por Jakob Nielsen (1994) para validación de contenidos digitales, y 235 directrices de usabilidad para Gobierno en Línea (2010).

Cada una de las secciones del sitio fue evaluada, según nueve categorías en las que fueron divididas las 235 directrices, anotando errores o comentarios detectados, asignando a cada uno un grado de severidad, según la relevancia que representan en la navegación del sitio por parte de los usuarios.

En cada uno de los parámetros evaluados se presentan los errores encontrados, así como imágenes de soporte y explicaciones detalladas de los hallazgos discriminados por grado de severidad, complementados por sugerencias y referentes para realizar mejoras en el portal.

Como apoyo al análisis, se presenta una gráfica que señala la relación de cumplimiento, por categoría, de los lineamientos en usabilidad para Gobierno en Línea.

Page 19: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

19

Parámetros heurísticosde Jakob Nielsen

(1994)

Visibilidad del estado del sistema

Página de inicio

Orientación de las tareas y funcionalidad del sitio

Navegabilidad y arquitectura de la información

Formularios y entrada de datos

Confianza y credibilidad

Calidad del contenido y escritura

Diagramación y diseño gráfico

Búsquedas

Ayuda, reconocimiento y recuperación de errores

Control y libertad por el usuario

Estándares y consistencia

Prevención de errores

Reconocer en lugar de retroceder

Flexibilidad y eficiencia de uso

Diseño estético y minimalista

Ayuda y documentación

Ayudar a los usuarios a reconocer, diagnosticar y recuperarse de los errores

Correspondencia entre el sistema y el mundo real

Categoría # de Directrices

A

B

C

D

E

G

F

H

I

194427231121382032

PROCESO DE EVALUACIÓN DE USABILIDAD

Page 20: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

20PROCESO DE EVALUACIÓN DE USABILIDAD

Escala de severidad

Los errores identificados por el equipo de expertos, fueron clasificados en una escala de severidad, donde 1 es entendido como el error de mayor gravedad, y 4 aquel de menor importancia.

Grado de severidad 1: Error catastrófico que causa pérdidas de datos irrevocables o daños al hardware o software del sistema. Fallos a gran escala que impiden la realización del trabajo de muchas personas. La realización es tan mala que el sistema no puede alcanzar las metas de negocio.

Grado de severidad 2: Problemas severos que causan posibles pérdidas de datos. El usuario no encuentra forma de solucionar el problema por su cuenta y se requiere asistencia técnica para la resolución del problema.

Grado de severidad 3: Problemas moderados que causan la pérdida no permanente de información, pero se pierde tiempo. Existen mecanismos para superar el problema por parte del usuario. las inconsistencias internas se traducen en un incremento del aprendizaje y las tasas de error. Una función o característica importante es que no trabaja como se esperaba.

Grado de severidad 4: Problemas menores pero irritantes. En general no causa pérdidas de datos pero la sucesión de problemas ralentiza la actividad de los usuarios. Violaciones mínimas de las percepciones afectan a la apariencia o la percepción y errores que son recuperables.

Resultados en la primera fase de la evaluación de usabilidad Secretaría de laMujer

Fig. 1 - Gráfica de cumplimiento según directrices de Gobierno en Línea.

Tabla 1 - Desempeño general del portal según directrices de Gobierno en Línea.

Cumplimiento ideal

Directrices evaluadas

Desempeño Generalde cumplimiento51,04%

235

7635

125Directrices cumplidas

Directrices incumplidas

No aplicadirectrices

Cumplimiento medio

Cumplimiento actual

**Se anota que las directrices que no aplicaron a la evaluación fueron aquellas que, por ejemplo, refieren a compras on-line, debido a la naturaleza de los portales.

Page 21: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

21PROCESO DE EVALUACIÓN DE USABILIDAD

Página de inicio

Orientación de las tareas y funcionalidad del sitio

Navegabilidad y arquitectura de la información

Formularios y entrada de datos

Confianza y credibilidad

Calidad del contenido y escritura

Diagramación y diseño gráfico

Búsquedas

Ayuda, reconocimiento y recuperación de errores

Categoría % de Cumplimiento

A

B

C

D

E

G

F

H

I

68,42%67,05%48,15%

63,04%72,73%73,81%42,11%

35,94%67,50%

Tabla 2 - Desempeño por categorías del portal según directrices de Gobierno en Línea.

Páginas ejemplo del informe provisto por los expertos en la primera fase

Page 22: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

22PROCESO DE EVALUACIÓN DE USABILIDAD

Page 23: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

23PROCESO DE EVALUACIÓN DE USABILIDAD

FASE 2: Informe de usabilidad pruebas con usuarios portal de la Secretaría Distrital de la Mujer (http://www.sdmujer.gov.co/)

Este documento presenta un análisis de usabilidad con usuarios, del portal web de la Secretaría Distrital de la Mujer. Las pruebas fueron realizadas aplicando las metodologías de testeo con usuarios y acompañamiento de expertos.

El grupo de investigación decidió realizar cinco pruebas, en las que el equipo del ViveLab, el de la Secretaría Distrital de la Mujer y el de la Alta Consejería Distrital TIC, participaron en los procesos de definición de actividades, observación y análisis de la información.

Las pruebas se realizaron por medio de una metodología diseñada con base en la experiencia de los equipos: para iniciar, le fue indicado al usuario que el propósito de la prueba era evaluar el sitio web de la Secretaría Distrital de la Mujer. Posteriormente, le fue solicitado al usuario el desarrollo de una serie de tareas que requerían de su navegación en todo el portal. Finalmente, el usuario fue compensado por su participación en las pruebas.

La duración estimada del test fue de 40 minutos por cada participante. Se obtuvieron datos de un total de 5 usuarios efectivos en el análisis, los cuales desarrollaron una prueba de navegación del portal que fue registrada en audio y video para posterior análisis del equipo de usabilidad.

Descripción de la prueba

Test de pruebas con acompañamiento de facilitador, interacción con el portal, análisis simultáneo con observadores invitados de la Secretaría Distrital de la Mujer y la Alta Consejería Distrital TIC, y observadores expertos del laboratorio de usabilidad de ViveLab Bogotá.

Perfil del participante

Fueron definidos dos perfiles de usuario para la realización de la prueba:

Tipo de reclutamiento y compensación

Sesiones

Ambitente de Investigación

Ciudadanas de 18 a 45 años con experiencia media en manejo de TIC (3 personas).Ciudadanos de 18 a 45 años con experiencia media en manejo de TIC (2 personas).

Los ciudadanos fueron reclutados por el equipo de la Secretaría Distrital de la Mujer y el de la Alta Consejería Distrital de TIC.Los participantes recibieron una memoria USB Kingston de 8GB como compensación.

La prueba fue realizada en una sola sesión de trabajo: Jueves 2 de marzo de 2017.

ViveLab Bogotá - Laboratorio de UsabilidadUbicación: Avenida el Dorado Carrera 45 # 26 – 33Teléfono: 3165000 ext. 10904

Page 24: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

24PROCESO DE EVALUACIÓN DE USABILIDAD

La plataforma fue evaluada según 5 métricas establecidas por los expertos de acuerdo a la naturaleza del portal y el propósito del análisis:

Los resultados de las pruebas con usuarios fueron clasificados en conjunto por los equipos del ViveLab, la Secretaría Distrital de la Mujer y la Alta Consejería Distrital de TIC.

Métricas de análisis

Diseño de interfaz y problemas técnicos.Reconocimiento de los servicios que ofrece el portal web.Navegabilidad y arquitectura de la información.Perfil de usuario del portal.Validación del Contenido del Portal Web.

1.2.

3.

4.5.

Resultados en la segundafase de la evaluación deusabilidad SecretaríaDistrital de la Mujer

Page 25: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

25PROCESO DE EVALUACIÓN DE USABILIDAD

Page 26: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

PROCESO DE EVALUACIÓN DE USABILIDAD

SecretaríaPortal de la

Distritalde Educación(http://www.educacionbogota.edu.co/)

Page 27: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

27

FASE 1: Documento de validaciónbajo parámetros heurísticos

Métricas de análisisLa plataforma fue evaluada según los 10 parámetros establecidos por Jakob Nielsen en 1994 y la matriz de verificación de lineamientos en usabilidad de Gobierno en Línea (2010):

PROCESO DE EVALUACIÓN DE USABILIDAD

Evaluación deUsabilidad

Portal de la Secretaría Distrital de Educación(http://www.educacionbogota.edu.co/)

(http://www.educacionbogota.edu.co/)

Este documento presenta un informe de análisis y validación de parámetros del portal web de la Secretaría de Educación del Distrito a 21 de Febrero de 2017, según el marco ofrecido por la iniciativa Govimentum (2016), la evaluación heurística de Jakob Nielsen (1994), los Lineamientos y metodologías en usabilidad para Gobierno en Línea (2010), el Manual de Estrategia de Gobierno en Línea (2015), y la Guía de sitios web para el Distrito Capital (2016).

El análisis del portal fue realizado empleando la metodología de evaluación heurística durante diez sesiones de trabajo, en las que tres expertos del laboratorio de usabilidad del ViveLab Bogotá, comprobaron el cumplimiento de principios de usabilidad, utilizando como criterio los diez (10) parámetros heurísticos (Visibilidad del estado del sistema, correspondencia entre el sistema y el mundo real, control y libertad por el

usuario, estándares y consistencia, prevención de errores, reconocer en lugar de retroceder, flexibilidad y eficiencia de uso, diseño estético y minimalista, ayudar a los usuarios a reconocer, diagnosticar y recuperarse de los errores, y ayuda y documentación), establecidos por Jakob Nielsen (1994) para validación de contenidos digitales, y 235 directrices de usabilidad para Gobierno en Línea (2010).

Cada una de las secciones del sitio fue evaluada, según nueve categorías en las que fueron divididas las 235 directrices, anotando errores o comentarios detectados, asignando a cada uno un grado de severidad, según la relevancia que representan en la navegación del sitio por parte de los usuarios.

En cada uno de los parámetros evaluados, se presentan los errores encontrados, así como imágenes de soporte y explicaciones detalladas de los hallazgos discriminados por grado de severidad, complementados por sugerencias y referentes para realizar mejoras en el portal.

Como apoyo al análisis, se presenta una gráfica que señala la relación de cumplimiento, por categoría, de los lineamientos en usabilidad para Gobierno en Línea.

Page 28: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

28

Parámetros heurísticosde Jakob Nielsen

(1994)

Visibilidad del estado del sistema

Página de inicio

Orientación de las tareas y funcionalidad del sitio

Navegabilidad y arquitectura de la información

Formularios y entrada de datos

Confianza y credibilidad

Calidad del contenido y escritura

Diagramación y diseño gráfico

Búsquedas

Ayuda, reconocimiento y recuperación de errores

Control y libertad por el usuario

Estándares y consistencia

Prevención de errores

Reconocer en lugar de retroceder

Flexibilidad y eficiencia de uso

Diseño estético y minimalista

Ayuda y documentación

Ayudar a los usuarios a reconocer, diagnosticar y recuperarse de los errores

Correspondencia entre el sistema y el mundo real

Categoría # de Directrices

A

B

C

D

E

G

F

H

I

194427231121382032

PROCESO DE EVALUACIÓN DE USABILIDAD

Page 29: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

29PROCESO DE EVALUACIÓN DE USABILIDAD

Escala de severidad

Los errores identificados por el equipo de expertos, fueron clasificados en una escala de severidad, donde 1 se refiere al error de mayor gravedad, y 4 aquel de menor importancia.

Grado de severidad 1: Error catastrófico que causa pérdidas de datos irrevocables o daños al hardware o software del sistema. Fallos a gran escala que impiden la realización del trabajo de muchas personas. La realización es tan mala que el sistema no puede alcanzar las metas de negocio.

Grado de severidad 2: Problemas severos que causan posibles pérdidas de datos. El usuario no encuentra forma de solucionar el problema por su cuenta y se requiere asistencia técnica para la resolución del problema.

Grado de severidad 3: Problemas moderados que causan la pérdida no permanente de información, pero se pierde tiempo. Existen mecanismos para superar el problema por parte del usuario. las inconsistencias internas se traducen en un incremento del aprendizaje y las tasas de error. Una función o característica importante es que no trabaja como se esperaba.

Grado de severidad 4: Problemas menores pero irritantes. En general no causa pérdidas de datos pero la sucesión de problemas ralentiza la actividad de los usuarios. Violaciones mínimas de las percepciones afectan a la apariencia o la percepción y errores que son recuperables.

Resultados en la primera fase de la evaluación de usabilidad Secretaría de Educación del Distrito

Fig. 1 - Gráfica de cumplimiento según directrices de Gobierno en Línea.

Tabla 1 - Desempeño general del portal según directrices de Gobierno en Línea.

Cumplimiento ideal

Directrices evaluadas

Desempeño Generalde cumplimiento64,72%

235

8325

127Directrices cumplidas

Directrices incumplidas

No aplicadirectrices

Cumplimiento medio

Cumplimiento actual

**Se anota que las directrices que no aplicaron a la evaluación fueron aquellas que, por ejemplo, refieren a compras on-line, debido a la naturaleza de los portales.

Page 30: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

30PROCESO DE EVALUACIÓN DE USABILIDAD

Página de inicio

Orientación de las tareas y funcionalidad del sitio

Navegabilidad y arquitectura de la información

Formularios y entrada de datos

Confianza y credibilidad

Calidad del contenido y escritura

Diagramación y diseño gráfico

Búsquedas

Ayuda, reconocimiento y recuperación de errores

Categoría % de Cumplimiento

A

B

C

D

E

G

F

H

I

81,58%44,32%46,30%82,61%90,91%83,33%50,00%

48,44%55,50%

Tabla 2 - Desempeño por categorías del portal según directrices de Gobierno en Línea.

Páginas ejemplo del informe provisto por los expertos en la primera fase

Page 31: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

31PROCESO DE EVALUACIÓN DE USABILIDAD

Page 32: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

32PROCESO DE EVALUACIÓN DE USABILIDAD

FASE 2: Informe de usabilidad pruebas con usuarios portal de la Secretaría de Educación del Distrito(http://www.educacionbogota.edu.co/)

Este documento presenta un análisis de usabilidad con usuarios, del portal web de la Secretaría Distrital de Educación. Las pruebas fueron realizadas aplicando las metodologías de testeo con usuarios y acompañamiento de expertos; el grupo de investigación decidió realizar seis pruebas, en las que el equipo del ViveLab, el de la Secretaría de Educación del Distrito y el de la Alta Consejería Distrital TIC, participaron en los procesos de definición de actividades, observación y análisis de la información.

Las pruebas se realizaron por medio de una metodología diseñada con base en la experiencia de los equipos: para iniciar, le fue indicado al usuario que el propósito de la prueba era evaluar el sitio web de la Secretaría de Educación del Distrito. Posteriormente, le fue solicitado al usuario el desarrollo de una serie de tareas que requerían de su navegación en todo el portal. Finalmente, el usuario fue compensado por su participación en las pruebas.

La duración estimada del test fue de 40 minutos por cada participante. Se obtuvieron datos de 6 usuarios efectivos en el análisis, los cuales desarrollaron una prueba de navegación del portal que fue registrada en audio y video para posterior análisis del equipo de usabilidad.

Descripción de la prueba

Test de pruebas con acompañamiento de facilitador, interacción con el portal, análisis simultáneo con observadores invitados de la Secretaría de Educación del Distrito y la Alta Consejería Distrital TIC, y observadores expertos del laboratorio de usabilidad de ViveLab Bogotá.

Perfil del participante

Fueron definidos dos perfiles de usuario para la realización de la prueba:

Tipo de reclutamiento y compensación

Sesiones

Ambitente de Investigación

Padres de familia de 30-55 años, con experiencia media en manejo de TIC, con hijo en colegio público o con intención de trasladarlo (3 personas).Docentes del Distrito de 30-55 años, con experiencia media en manejo de TIC (3 personas).

Los usuarios padres de familia fueron reclutados por el equipo del ViveLab Bogotá, y aquellos usuarios docentes fueron reclutados por el equipo de la Secretaría de Educación del Distrito y de la Alta Consejería Distrital TIC.Los participantes recibieron una memoria USB Kingston de 8GB.

La prueba fue realizada en dos sesiones de trabajo: Los días viernes 17 y martes 21 de marzo de 2017.

ViveLab Bogotá - Laboratorio de UsabilidadUbicación: Avenida el Dorado Carrera 45 # 26 – 33Teléfono: 3165000 ext. 10904

Page 33: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

33PROCESO DE EVALUACIÓN DE USABILIDAD

Métricas de análisis

La plataforma fue evaluada según 5 métricas establecidas por los expertos de acuerdo a la naturaleza del portal y el propósito del análisis:

Los resultados de las pruebas con usuarios fueron clasificados en conjunto por los equipos del ViveLab, la Secretaría de Educación del Distrito, y la Alta Consejería Distrital de TIC. Los hallazgos respecto a cada problema, fueron organizados de acuerdo con los dos perfiles de usuario participantes en el ejercicio.

Diseño de interfaz y problemas técnicos.Reconocimiento de los servicios que ofrece el portal web.Navegabilidad y arquitectura de la información.Perfil de usuario del portal.Validación del Contenido del Portal Web.

1.2.

3.

4.5.

Resultados en la segundafase de la evaluación deusabilidad Secretaría deEducación del Distrito

Page 34: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros

34PROCESO DE EVALUACIÓN DE USABILIDAD

Page 35: Proceso de Evaluación de Usabilidad · Marco de Referencia Manual de estrategia de Gobierno en Línea. Lineamientos y metodologías en Usabilidad para Gobierno en Línea. Parámetros