la transcripci Óno verbal: aplicaci Óal corpus...

18
LA TRANSCRIPCI LA TRANSCRIPCI Ó Ó NO NO VERBAL: APLICACI VERBAL: APLICACI Ó Ó AL AL CORPUS AUDIOVISUAL CORPUS AUDIOVISUAL PLURILING PLURILING Ü Ü E (CAP) E (CAP) Jaume Fit Jaume Fit ó ó Pardo Pardo 14 d 14 d octubre de 2011 octubre de 2011

Upload: others

Post on 17-Aug-2020

7 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

LA TRANSCRIPCILA TRANSCRIPCIÓÓ NO NO VERBAL: APLICACIVERBAL: APLICACIÓÓ AL AL CORPUS AUDIOVISUAL CORPUS AUDIOVISUAL PLURILINGPLURILINGÜÜE (CAP)E (CAP)

Jaume FitJaume Fitóó PardoPardo

14 d14 d’’octubre de 2011octubre de 2011

Page 2: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

ESTRUCTURAESTRUCTURA

1.1. OrigenOrigen

2.2. CorpusCorpus

3.3. Punt de partida: tipologia i parts del gestPunt de partida: tipologia i parts del gest

4.4. MetodologiaMetodologia

5.5. ExemplesExemples

6.6. Consideracions finalsConsideracions finals

Page 3: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

ORIGENORIGEN

Page 4: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

CORPUSCORPUSDades analitzades

Què he de fer peranar de la

facultat d’Econòmiquesa casa teva?

36 textos intructius12 en català12 en castellà12 en anglès

DADES TEXTUALS

36 documents

SOUND FORGE

DADES AUDIOVISUALS

36 vídeos (12 DVD)

ADOBE PREMIERE

Page 5: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

PUNT DE PARTIDAPUNT DE PARTIDA

•• El El Growth Point Growth Point (GP) o (GP) o punt de creixementpunt de creixement éés una s una unitat analunitat analíítica que combina imatges i contingut tica que combina imatges i contingut categorial lingcategorial lingüíüísticstic..–– Finestra oberta Finestra oberta (open window) (open window) que dque dóóna accna accéés als s als nostres pensaments.nostres pensaments.

McNeill i la teoria del Growth Point

Page 6: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

PUNT DE PARTIDAPUNT DE PARTIDA

IcònicsIcònics

Classificació gestual

<Tens_la placeta_>

Page 7: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

PUNT DE PARTIDAPUNT DE PARTIDA

MetafòricsMetafòrics

Classificació gestual

una vegada <trobis l’església_>

Page 8: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

PUNT DE PARTIDAPUNT DE PARTIDA

DDíícticsctics

Classificació gestual

i <tens un carrer a l’esquerra\

Page 9: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

PUNT DE PARTIDAPUNT DE PARTIDA

Jerarquia de moviments gestuals (Kendon 1980)Jerarquia de moviments gestuals (Kendon 1980)

Kendon i les fases gestuals

Gesture-Unit

Gesture-Phrase

Preparation Stroke Retraction

Hold (pre-stroke) Hold (post-stroke)

Page 10: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

METODOLOGIAMETODOLOGIA

1.1. Marcatge de la part verbalMarcatge de la part verbal2.2. ELAN (EUDICO Language Annotator): anotaciELAN (EUDICO Language Annotator): anotacióó de de

trets no verbals i fases gestuals.trets no verbals i fases gestuals.3.3. Manual de transcripciManual de transcripcióó (Susan Duncan)(Susan Duncan)

-- Convencions de transcripciConvencions de transcripcióó no verbalno verbal

Integració de la part verbal i la no verbal

Page 11: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

METODOLOGIAMETODOLOGIAELAN (EUDICO Language Annotator)

Eina per a l’anotació i l’explotació de dades audiovisuals o multimèdia.

Anàlisi del llenguatge, de les llengües de signes i del gest.

Page 12: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

METODOLOGIAMETODOLOGIA

•• Realitzat per Susan Duncan (McNeill Gesture Lab).Realitzat per Susan Duncan (McNeill Gesture Lab).

•• Instruccions per codificar el gest i el discurs de Instruccions per codificar el gest i el discurs de manera escrita.manera escrita.

•• Requeriments tRequeriments tèècnics imprescindibles cnics imprescindibles (proporcionats per ELAN).(proporcionats per ELAN).

•• AdaptaciAdaptacióó al catalal catalàà per a lper a l’’estudi.estudi.

Manual de transcripció (Susan Duncan)

Page 13: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

METODOLOGIAMETODOLOGIA

1) Frases gestuals (Gesture-phrase): <...>2) Punt àlgid (stroke): fragment en format negreta.3) Preparació del gest: no té cap marca específica. És el fragment que queda entre el primer parèntesi i el punt àlgid.4) Retracció del gest: no té cap marca específica. És el fragment que hi ha entre el punt àlgid i el segon parèntesi.5) Manteniment del gest:

_____ (sense moviment = manteniment complet)-------- (amb moviment lleu = manteniment parcial)

Convencions de transcripció no verbal

Page 14: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

EXEMPLESEXEMPLES

EXEMPLESC101A1<agafo el carrer Sepúlveda_i tot recte\>

retracció

preparació

Page 15: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

EXEMPLESEXEMPLES

E316A4E316A4

((…… 1.19) s<o you:_1.19) s<o you:_

ggo straight ahead_

you find another roundaboutfind another roundabout__

((…… 1.4>4) you::_1.4>4) you::_

preparació

Manteniment posterior

retracció

Page 16: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

Abans de transcriureAbans de transcriure•• Corpus audiovisual de qualitatCorpus audiovisual de qualitat

•• Instruments adequatsInstruments adequats

-- Memòria dMemòria d’’emmagatzematgeemmagatzematge

-- Memòria de processamentMemòria de processament

-- Programa amb opcions de reproducciPrograma amb opcions de reproduccióó

-- Convencions claresConvencions clares

•• ObservaciObservacióó completa de les dades completa de les dades

CONSIDERACIONS FINALSCONSIDERACIONS FINALS

Page 17: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

Durant la transcripciDurant la transcripcióó•• PrecisiPrecisióó El procEl procéés s éés lents lent

•• AlentimentAlentiment DistorsiDistorsióó del sodel so

•• Dificultat dDificultat d’’interpretaciinterpretacióó

CONSIDERACIONS FINALSCONSIDERACIONS FINALS

Tipus de gest?

Page 18: LA TRANSCRIPCI ÓNO VERBAL: APLICACI ÓAL CORPUS …prosodia.upf.edu/activitats/wmultimodalitat/presentacions/jaume.pdf · Després de la transcripció •Revisar la transcripció

DesprDespréés de la transcripcis de la transcripcióó•• Revisar la transcripciRevisar la transcripcióó

Aspectes millorablesAspectes millorables•• DifDifíícil plasmacicil plasmacióó del gest en paper (moviment i del gest en paper (moviment i velocitat) velocitat) subtitulacisubtitulacióó

•• Necessitat dNecessitat d’’usar editors de vusar editors de víídeo deo nono--segmentacisegmentacióó amb ELANamb ELAN

CONSIDERACIONS FINALSCONSIDERACIONS FINALS