Realizing Appropriate Trust in the Self and in Others

From Master Projects
Jump to: navigation, search


About Realizing Appropriate Trust in the Self and in Others

  • This project has not yet been fulfilled.
  • This project fits in the following Bachelor programs: {{#arraymap:|, |xXx|bachelorproject within::xXx|,}}
  • This project fits in the following masterareas: {{#arraymap:Cognitive Science, Technical Artificial Intelligence, AI and Communication, Information Sciences|, |xXx|project within::xXx|,}}


Description

Projecttitel: Realizing Appropriate Trust in the Self and in Others Stagebegeleider: Peter-Paul van Maanen E-mail: peter-paul.vanmaanen@tno.nl Telefoon: +31 (0)346356410 Locatie: TNO Human Factors, Kampweg 5, 3769 ZG Soesterberg Looptijd: 3 maanden met eventuele mogelijkheid tot verlenging van 6 maanden voor het afstuderen Sollicitatie: uiterlijk 21 september 2009 Startdatum: 5 oktober 2009 Salaris: € 440 bruto per maand

Motivatie en doelstelling

Samenwerkende mensen in domeinen als de luchtvaart, verkeersleiding, marine, crisis management, etc., zullen in de toekomst steeds meer te maken krijgen met een overvloed aan informatie van gecomputeriseerde omgevingen. Door de toekomstige reductie van het aantal mensen in deze domeinen, zullen kleinere teams verantwoordelijk worden voor grotere en gevarieerdere pakketten aan taken. Ook zullen ze hun beslissingen moeten baseren op advies van verschillende bronnen (computer of mens) waarvan ze nog niet precies weten of ze het advies wel kunnen accepteren. Acceptatie van aangeboden advies is sterk afhankelijk van of de informatiebron wel wordt vertrouwd. Vertrouwen kan vaak erg veranderlijk, persoonsafhankelijk en moeilijk te doorgronden zijn. Het is belangrijk om hiermee in de ontwerpfase van ondersteunende systemen rekening te houden. Het doel daarbij is om de snelheid en kwaliteit van de beslissingen te verbeteren.

Echter, in een omgeving waar de situaties ook veranderlijk en moeilijk te doorgronden zijn, is het niet voldoende om hier alleen in de ontwerpfase rekening mee te houden: Om goed aan te sluiten bij de behoeften van de gebruikers zal het systeem ook real-time rekening moeten houden met vertrouwen. Een manier om dit te bewerkstelligen is door vertrouwen te modelleren en daarna de modellen onderdeel te laten zijn van het systeem. Dit zodanig dat het systeem op basis van uitkomsten van het model beter kan inschatten of advies van verschillende actoren (mens of computer) juist wordt gebruikt. Op basis van deze inschatting zou het systeem kunnen reageren met interventies die het juist gebruik bevorderen. Deze interventies kunnen bijvoorbeeld zijn:


1. notificatie aan de gebruiker;

2. verandering van het moment, de inhoud, of vorm van het advies op de interface;

3. het overhevelen van taken naar\van andere teamleden\systemen.


Mogelijkheid 1 zou je bijvoorbeeld willen toepassen als het systeem het vermoeden heeft dat een teamlid onvoldoende op de diensten van andere teamleden vertrouwt. In dit geval kan het systeem aangeven dat het betreffende teamlid dit wel zou moeten doen. Mogelijkheid 2 zou je bijvoorbeeld willen toepassen als het duidelijk wordt dat bepaalde door de computer gegeven advies niet wordt vertrouwd, terwijl deze wel belangrijk is om meegenomen te worden in het beslisproces van het teamlid. In dit geval zou bijvoorbeeld een de informatie overtuigender aangeboden kunnen worden. Mogelijkheid 3 zou je bijvoorbeeld willen toepassen als een teamlid onvoldoende geneigd is een gedeelte van zijn taken toe te vertrouwen aan een ander teamlid dat hoogstwaarschijnlijk de taak beter kan uitvoeren. Als dit geoorloofd is, zou in dit geval het systeem de overdracht kunnen afdwingen en het teamlid daarover notificeren.

Eén van de centrale vragen in het onderzoeksproject waarbinnen deze stage valt is de vraag hoe je een cognitief model van vertrouwen kunt gebruiken in een systeem dat teamleden ondersteunt bij hun taakuitvoering. Bijvoorbeeld om iemand te ondersteunen die te veel informatie moet verwerken om zijn taak goed te kunnen uitvoeren. En als we zo’n model en systeem hebben, is het model dan ook valide en heeft het systeem dan ook het gewenste effect? Hoe zit dat in een groep van mensen en systemen? Dit zijn vragen die we bij TNO Human Factors in Soesterberg onderzoeken.

Een cognitief model is een computerprogramma dat bepaalde aspecten van menselijk gedrag simuleert. TNO heeft een cognitief model mede ontwikkeld dat het gedrag wat betreft het gebruiken van het advies van de computer beschrijft tijdens het uitvoeren van een taak. Het model maakt hiervoor gebruik van informatie uit de taakomgeving, over de taak zelf, vertrouwensgedrag, en kennis over menselijk vertrouwen. Tijdens het uitvoeren van een taak berekent het model met deze informatie op elk moment uit hoe een persoon het computeradvies zal gaan gebruiken. Denk hierbij bijvoorbeeld aan een advies van de computer over het wel of niet uitvoeren van een bepaalde actie. Het systeem gebruikt deze kennis om te bepalen of de mens het advies van de computer goed gebruikt. Als dit ingeschatte gebruik van de mens te veel afwijkt van normatieve regels kan het systeem beslissen om taken over te nemen. In dit geval zou het systeem dan zelf beslissen of een bepaalde actie uitgevoerd dient te worden.

Voor een betrouwbaar systeem is het belangrijk dat de voorspelling van het cognitieve model valide is. Dat wil zeggen dat het idee dat het systeem heeft over hoe de mens het advies van het systeem gebruikt moet overeenkomen met hoe de persoon dat feitelijk doet. Om hier achter te komen moet het model gevalideerd worden in een experiment. Wij zoeken een student met experimentele vaardigheden die ons helpt de validiteit van het cognitieve model experimenteel te toetsen, helpt bij het bedenken van toepassingen van dit model, een eigen gedeelte daarvan kan implementeren, kan beproeven, en daarover rapporteert.

Wetenschappelijke vraagstelling(en)

1) Is het ontwikkelde cognitieve model van vertrouwen valide?

2) (Hoe) kan het cognitieve model van vertrouwen effectief worden toegepast?


Deze vragen worden onderzocht door middel van data uit eerdere experimenten en een nog zelf uit te voeren experiment. Proefpersonen moeten een taak uitvoeren in het militaire domein. Tijdens het experiment worden verschillende data verzameld, zoals over de prestatie en het vertrouwensgedrag van de proefpersonen tijdens het uitvoeren van de taak. Deze data zal gebruikt worden om het model te valideren en uitspraken te doen over de mogelijkheden van dergelijke modellen.

Geplande aanpak en activiteiten

1. Verdiepen in het onderwerp

2. Analyse resultaten uit eerder gedane experimenten

3. Uitwerken en modelleren eigen toepassing

4. Implementatie cognitief model van vertrouwen voor toepassing

5. Meedenken over de opzet van het experiment

6. Uitvoeren van het experiment (rol als proefleider)

7. Analyseren van de resultaten

8. Model aanpassen op basis van de resultaten

9. Rapportage methodologie en resultaten


NB: Fasen 1, 2, en 3 kunnen in de vorm van een +/-3-maanden stage worden uitgevoerd. Bij goed functioneren bestaat vervolgens de mogelijkheid om het vervolgonderzoek (fasen 4-9) uit te voeren voor het afstuderen. Fasen 1, 3-9 kunnen ook apart als afstudeerproject worden uitgevoerd. De activiteiten worden in teamverband met onderzoekers van TNO uitgevoerd.

Gewenst profiel stagiair

1) Student in stage fase zonder parallel lopende vakken

2) Student Experimentele/Cognitieve/Computationele Psychologie, Kunstmatige Intelligentie, Informatiekunde, Informatica, Kennistechnologie, of iets soortgelijks.

3) Affiniteit met het onderwerp (cognitieve modellen, vertrouwen, modelleren, experimenteren)

4) Ervaring met experimenten opzetten en uitvoeren

5) Ervaring met analyse van data

6) Enthousiast en prettig om mee samen te werken

7) Goed kunnen schrijven/rapporteren


Heb je interesse, stuur dan vóór 21-09-2009 een e-mail met je motivatie en CV naar peter-paul.vanmaanen@tno.nl of bel +31 (0)346356410 voor een afspraak. Sollicitaties zullen worden gehouden in week 40.