Usability Tests und usability design für die Entwicklung von Internetwörterbüchern



Ähnliche Dokumente
Name: Matr.-Nr. Datum: Bitte beachten Sie:

SWE12 Übungen Software-Engineering

Use Cases. Die Sicht des Nutzers. Fortgeschrittenenpraktikum SS 2004

Das System sollte den Benutzer immer auf dem Laufenden halten, indem es angemessenes Feedback in einer angemessenen Zeit liefert.

Erfolgreiche Webseiten: Zur Notwendigkeit die eigene(n) Zielgruppe(n) zu kennen und zu verstehen!

Agile Vorgehensmodelle in der Softwareentwicklung: Scrum

Content Management System mit INTREXX 2002.

ecambria experts IT-Projekte in der Krise Ursachen und Vermeidungsstrategien aus Sicht eines Gerichtssachverständigen

Entwicklung eines expertenorientierten Verfahrens zur Überprüfung der Usability von Webanwendungen nach DIN EN ISO 9241

Handbuch ECDL 2003 Basic Modul 5: Datenbank Grundlagen von relationalen Datenbanken

Johannes Rahn Usability und User Experience

Was ich als Bürgermeister für Lübbecke tun möchte

Arbeit zur Lebens-Geschichte mit Menschen mit Behinderung Ein Papier des Bundesverbands evangelische Behindertenhilfe e.v.

SharePoint Demonstration

Was meinen die Leute eigentlich mit: Grexit?

Das Pflichtenheft. Dipl.- Ing. Dipl.-Informatiker Dieter Klapproth Ains A-Systemhaus GmbH Berlin

User-centered Design Anwendung von Usability-Methoden bei der Entwicklung von Bibliotheksportalen. Irka Schneider 104. Bibliothekartag

Software-Engineering Grundlagen des Software-Engineering

Vom kompetenzorientierten Unterricht zur kompetenzorientierten Matura

Look Inside: desite. modellorientiertes Arbeiten im Bauwesen. B.I.M.

Studieren- Erklärungen und Tipps

Die Online-Meetings bei den Anonymen Alkoholikern. zum Thema. Online - Meetings. Eine neue Form der Selbsthilfe?

Erfahrungen mit Hartz IV- Empfängern

Einführung in die User Experience (UX)

Fragebogen: Abschlussbefragung

26. November Dipl.- Inf. Holger Röder stuhgart.de

Formwerk AG. Die Sicherstellung konsistenter Nutzungserlebnisse über den gesamten SW-Produktlebenszyklus durch Human Centered Design.

User Experience vs. Retrievaltests Wie lässt sich die Relevanz von Suchergebnissen bewerten?

Zentrum. Zentrum Ideenmanagement. Zentrum Ideenmanagement. Umfrage zur Nutzung von mobilen Endgeräten im Ideenmanagement

Europäischer Fonds für Regionale Entwicklung: EFRE im Bundes-Land Brandenburg vom Jahr 2014 bis für das Jahr 2020 in Leichter Sprache

Welche Gedanken wir uns für die Erstellung einer Präsentation machen, sollen Ihnen die folgende Folien zeigen.

Mitarbeiterbefragung als PE- und OE-Instrument

Informationssystemanalyse Lebenszyklusmodelle 3 1. Lebenszyklusmodelle sollen hauptsächlich drei Aufgaben erfüllen:

OP-LOG

Fragebogen ISONORM 9241/110-S

Visualisierung. Rückblick. Scientific Visualization vs. Informationsvisualisierung. Allgemeine Ziele und Anforderungen Prof. Dr.-Ing.

360 - Der Weg zum gläsernen Unternehmen mit QlikView am Beispiel Einkauf

Multicheck Schülerumfrage 2013

Wir erledigen alles sofort. Warum Qualität, Risikomanagement, Gebrauchstauglichkeit und Dokumentation nach jeder Iteration fertig sind.

Auswahl alter Klausuraufgaben aus einer ähnlichen Vorlesung Maßgeblich für die Prüfung sind die Vorlesungsinhalte!

«Eine Person ist funktional gesund, wenn sie möglichst kompetent mit einem möglichst gesunden Körper an möglichst normalisierten Lebensbereichen

Mit dem Tool Stundenverwaltung von Hanno Kniebel erhalten Sie die Möglichkeit zur effizienten Verwaltung von Montagezeiten Ihrer Mitarbeiter.

TeamSphere. Die Geo-Wissensdatenbank. Entwickelt von

Die CLC-Mitarbeiterbefragung. Eine solide Datenbasis für Ihre Unternehmensentwicklung.

Usability 2.0 Im Team testen, effizient auswerten und optimieren

Regeln für das Qualitäts-Siegel


Die Nutzer im Mittelpunkt des Software-Entwicklungprozesses

2. Psychologische Fragen. Nicht genannt.

Wichtig ist die Originalsatzung. Nur was in der Originalsatzung steht, gilt. Denn nur die Originalsatzung wurde vom Gericht geprüft.

Usability Engineering in agilen Projekten

Die Zertifizierungsstelle der TÜV Informationstechnik GmbH bescheinigt hiermit dem Unternehmen

Anleitung Redmine. Inhalt. Seite 1 von 11. Anleitung Redmine

KompUEterchen4KMU. Kompetenznetzwerk Usability Engineering für mobile Unternehmenssoftware von KMU für KMU

Typisierung des Replikationsplan Wirries, Denis Datenbankspezialist

Anforderungen an die HIS

4. Die Grundsätze der Dialoggestaltung aus DIN EN ISO

Web Services stellen eine Integrationsarchitektur dar, die die Kommunikation zwischen verschiedenen Anwendungen

2 Evaluierung von Retrievalsystemen

Unterrichtsmaterialien in digitaler und in gedruckter Form. Auszug aus: Übungsbuch für den Grundkurs mit Tipps und Lösungen: Analysis

Was ist Sozial-Raum-Orientierung?

Kundenbefragung als Vehikel zur Optimierung des Customer Service Feedback des Kunden nutzen zur Verbesserung der eigenen Prozesse

Software-Entwicklungsprozesse zertifizieren

Proseminar: Website-Managment-System. NetObjects Fusion. von Christoph Feller

OpenProposal: Anwendervorschlägen für. 27. November 2008 WIR FORSCHEN FÜR SIE. Asarnusch Rashid Herbert Schäfler FZI Forschungszentrum

Reporting Services und SharePoint 2010 Teil 1

PHP - Projekt Personalverwaltung. Erstellt von James Schüpbach

SDD System Design Document

Namibiakids e.v./ Schule, Rehoboth, Namibia

HTML5. Wie funktioniert HTML5? Tags: Attribute:

Online-Dienste des EPA

Die Lernumgebung des Projekts Informationskompetenz

Das Teamrollenmodell nach Meredith Belbin

Layoutmodelle. Steffen Schwientek Große Klostergasse Friedberg schwientek@web.de Web :schlaukopp.org

Forschen - Schreiben - Lehren

IINFO Storyboard

In diesem Tutorial lernen Sie, wie Sie einen Termin erfassen und verschiedene Einstellungen zu einem Termin vornehmen können.

Eine Logikschaltung zur Addition zweier Zahlen

1. Weniger Steuern zahlen

Fachanforderungen für die Abiturprüfung im Fach Elektrotechnik

Informationssystemanalyse Problemstellung 2 1. Trotz aller Methoden, Techniken usw. zeigen Untersuchungen sehr negative Ergebnisse:

Sind Sie fit für neue Software?

C++11 C++14 Kapitel Doppelseite Übungen Musterlösungen Anhang

Das Persönliche Budget in verständlicher Sprache

Berechtigungen im Kalender Anleitung für die Rechtevergabe im Outlook Kalender FHNW, Services, ICT

Hilfe zur Urlaubsplanung und Zeiterfassung

Hilfe zur ekim. Inhalt:

Leit-Bild. Elbe-Werkstätten GmbH und. PIER Service & Consulting GmbH. Mit Menschen erfolgreich

Online Intelligence Solutions TESTABLAUF. 7 Schritte für ein erfolgreiches Testing.

OUTSOURCING ADVISOR. Analyse von SW-Anwendungen und IT-Dienstleistungen auf ihre Global Sourcing Eignung. Bewertung von Dienstleistern und Standorten

FH Trier Entwicklung gebrauchstauglicher Systeme

IT-Unternehmensarchitektur Übung 01: IT-Strategie

Die Invaliden-Versicherung ändert sich

Studie über Umfassendes Qualitätsmanagement ( TQM ) und Verbindung zum EFQM Excellence Modell

Digitaler*Ausstellungsbegleiter*für*Mobilgeräte ** * * * Alter: Studiengang: Geschlecht: $ $ $ $ Datum: Falls%Ja,%welches? Falls%ja, %welches?

Die Post hat eine Umfrage gemacht

Pilotierung von Unterrichtsbeispielen

Klausur Software Engineering für WI (EuI)

Anwendungspraktikum aus JAVA Programmierung im SS 2006 Leitung: Albert Weichselbraun. Java Projekt. Schiffe Versenken mit GUI

Lehrer: Einschreibemethoden

Transkript:

Usability Tests und usability design für die Entwicklung von Internetwörterbüchern Ulrich Heid, IwiSt-STCL Universität Hildesheim Mannheim, 20. November 2013, Gastbeitrag zum 6. Arbeitstreffen des DFG-Netzwerks Internetlexikographie Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 1 / 24

Rahmen der Forschungen Institutsforschung, am IwiSt, Universität Hildesheim zusammen mit Informationswissenschaften Kooperation mit Informationswissenschaftlern und Lexikographen im Projekt SeLA, Scientific e-lexicography for Africa, finanziert 06/2012 05/2015 vom BMBF, im DAAD-Programm Welcome to Africa : Theo J.D. Bothma, University of Pretoria, SIT Daan J. Prinsloo, University of Pretoria, African Languages Rufus H. Gouws, University of Stellenbosch, Afrikaans Sonja Bosch, UNISA, African Languages Herman Beyer, University of Namibia, Windhoek Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 2 / 24

Überblick Software-Engineering und Usability: Wiederholung von Grundprinzipien Eine Sicht auf Wörterbuch-Design in der Lexikographie: Betrachtung aus der Perspektive der Funktionstheorie Tarp 2008 Zusammenhänge: Software-Engineering Lexikographie Zur Rolle von Usability in der Wörterbuchentwicklung Grundkonzept Beispiele: Usability-Design für Internet-Wörterbücher Methodische Interpretation Zusammenfassung: Stand und mögliche nächste Schritte Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 3 / 24

Software-Engineering Standardmodell der Software-Entwicklung Anforderungsanalyse: Nutzergruppen Bedarf der zu erwartenden Nutzer Funktionale Spezifikation: Funktionen der Software, Input/Output: inhaltlich und bezüglich Benutzerinteraktion Datenkategorien und ihre Relationen Technische Spezifikation Details zur Realisierung der Funktionen (konzeptionell) Randbedingungen und Wahl der Implementierung Implementierung, Tests Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 4 / 24

Software Engineering Benutzeraspekte: user-centered design Anforderungsanalyse: Geht ohnedies vom Benutzer und seinem Bedarf aus Funktionale Spezifikation: Feedback durch Expertengruppen, -Panels, Fragebogen,... Ggf. Usability-Beurteilung durch Experten: Cognitive Walkthrough : erwartete Gebrauchstauglichkeit Technische Spezifikation: Konformität mit allgemeinen Gestaltungsregeln Möglichkeit zu Tests mit Prototypen Implementierung: Benutzertests, Kunden-Feedback Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 5 / 24

Usability und Usability Tests Zur Erinnerung: Grundelemente Usability (Gebrauchstauglichkeit): Eigenschaft von Software Aspekte: Effektivität Effizienz Benutzerzufriedenheit Kriterien (Auszug) ISO-9241-110 (2006) Aufgabenangemessenheit: Effektivität Macht die Software das, wofür sie gemacht ist? Erwartungskonformität: Effizienz Interne Konsistenz, Konsistenz mit bekannter Software Lernbarkeit, Memorisierbarkeit: Benutzerzufriedenheit Wie leicht lernt und behält man die Handhabung der Software? Schwerpunkt auf GUI-Gestaltung Neuerdings Verlagerung hin zu User Experience Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 6 / 24

Usability und Usability Tests Grundregeln für GUI-Design: Anwendung auf Wörterbücher v. Gizycki 2002 Element Aspekt Effektivität Effizienz Benutzerzufriedenheit Inhaltsbezogen Strukturell Tests cf. ISO 9241-110 Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 7 / 24

Usability und Usability Tests Grundregeln für GUI-Design: Anwendung auf Wörterbücher v. Gizycki 2002 Element Inhaltsbezogen Strukturell Tests Aspekt Effektivität Inhalte Klare Erfolg beim vorhanden Navigation Aufgabenlösen Effizienz Schneller Benutzer weiß Zeitbedarf Zugriff immer, wo er für das auf Inhalte sich befindet Aufgabenlösen Benutzer- Individualisierte Lernbarkeit Fragebogen zufriedenheit Inhalte der Nutzung cf. ISO 9241-110 Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 8 / 24

Usability und Usability Tests Testmethoden: Prüfung der Sorftware Expertentest Test mit zukünftigen Nutzern Einzelne Tests Co-Discovery Präsenzbasiert über das Internet vgl. Vincze/Alonso 2013 Cognitive walkthrough Labortest Test in der natürlichen Umgebung Einflussparameter für die Methodenwahl: - Phase der Produktentwicklung - Art des Produkts: Bei Konsumentenprodukten: Schwerpunkt auf user experience - Verfügbare Zeit, Personal, Hilfsmittel,... Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 9 / 24

Wörterbuch-Design in der Lexikographie Annahmen auf der Grundlage der Funktionstheorie Einflussgrößen notwendiges Wissen über die Nutzer Bedarf und Bedarfssituationen: Tarp 2008 kognitiv: über Dinge oder Wörter etwas lernen kommunikativ: - für Textproduktion vs. Textrezeption - einsprachig vs. zweisprachig (Übersetzung) operativ: lernen, wie man etwas tut Vorwissen der Benutzer bezüglich der Inhalte des Wörterbuchs: bei Fachwörterbüchern bezüglich sprachlicher Phänomene bezüglich der Handhabung von elektronischen Wörterbüchern oder von Informations-Tools Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 10 / 24

Wörterbuch-Design in der Lexikographie Schematische Darstellung in Sinne von FT Grundannahme: Der Lexikograph verfügt über lexikographische Daten: Beschreibungen von Wörtern oder Sachen Verschiedene Nutzertypen verschiedene Wörterbücher different dictionaries: dic 1 user 1 lexgr. data filter dic 2 user 2 dic n user n Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 11 / 24

Wörterbuch-Design in der Lexikographie Aufgaben beim Wörterbuch-Design: deskriptiv präsentationell Von der lexikographischen Datensammlung zu einzelnen Wörterbüchern (vgl. Wörterbuchplanung): Deskription: Datenauswahl nach Bedarf und Vorwissen der Nutzer, auf Basis festgelegter Datenkategorien Präsentation: verschiedene Aufgaben, z.b. Definition von: * Reihenfolge der Präsentation am Bildschirm * Wahl der Metasprache, von Anzeigern für Angabetypen, etc. * Layout, Fonts,... * Einsatz von Information-on-Demand-Techniken alle abhängig von Bedarf und Vorwissen der Nutzer FT-Sicht: eine lexikographische Datensammlung Ableitung funktionsspezifischer Präsentationen: Datenbank Wörterbuch Fuertes-Olivera/Tarp 2014 Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 12 / 24

Software-Engineering vs. Lexikographie Versuch eines Vergleichs: Software-Design Wörterbuchplanung Software Design Anforderungsanalyse Funktionale Spezifikation Technische Spezifikation Implementierung Wörterbuchplanung Definition der Nutzer, ihres Bedarfs und Vorwissens Datenselektion Design von Zugriffsmethoden Präsentationelles Design Prototyp, Probeartikel, Ergänzung mit großen Datenmengen Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 13 / 24

Software-Engineering vs. Lexikographie Platz von Usability Tests und Usability Design in der WB- Planung Software Design Anforderungsanalyse Funktionale Spezifikation Technische Spezifikation Implementierung Wörterbuchplanung Definition der Nutzer, ihres Bedarfs und Vorwissens Datenselektion Design von Zugriffsmethoden Expertenanalyse Präsentationelles Design Usability tests Prototyp, Probeartikel, Ergänzung mit großen Datenmengen Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 14 / 24

Rolle von Usability in der Wörterbuchentwicklung Schwerpunkt: Entscheidungshilfe bei der Definition von präsentationellen Aspekten des Wörterbuchs: ähnlich wie bei GUI-Design aber mit lexikographisch-deskriptiver Komponente: Datenselektion Zugriff Benutzerschnittstelle - Andere Möglichkeiten: Evaluierung eines bestehenden e-wörterbuchs, Bewertung implementierter Lösungen Vincze/Alonso 2013 ebenfalls denkbar: Vergleich bestehender Wörterbücher Bank 2011, Heid 2011 Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 15 / 24

Beispiele für Usability-Tests bei Wörterbüchern Einfache Fälle laufende Arbeiten (Auswertungen per 02/2014) Zwei Internetwörterbücher aus Südafrika: Longman South African School Dictionary of English Longman HAT English-Afrikaans, Afrikaans-English School Dictionary Bisher: Cognitive Walkthrough, Julia Rinker, Marie Plinke, 2013 z.b. bezüglich Erwartungskonformität: Problembeispiel: Farbwahl in Artikeln und in Listen von Lemmata: Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 16 / 24

Beispiele für Usability-Tests bei Wörterbüchern Vergleichende Tests mit bestehenden Wörterbüchern Problematisch: Was wird genau getestet? Wörterbücher sind oft Bank 2011 für verschiedene Nutzergruppen konzipiert Behandlung analoger sprachlicher Phänomene schwer als Beispielfall ausfindig zu machen Unterschiede im GUI sind u.u. nicht testrelevant Sehr viele Parameter, schwer zu kontrollieren Heid 2011 Ziel: Möglichst viele nicht-relevante Parameter konstant halten Tests betreffen ein oder mehrere e-wörterbücher als Software: Aufdeckung von Schwächen, Fehlern etc.: anders als z.b. Wörterbuchbenutzungsforschung Test der Software, nicht der Benutzer oder der Prozesse Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 17 / 24

Usability-Design für Internetwörterbücher Grundkonzept Funktionale und technische Spezifikation des Wörterbuchs unter Einbezug von Benutzerbedürfnissen und Vorwissen der Nutzer Datenmodellierung muss feinkörnig genug sein, als dass Nutzeraspekte berücksichtigt werden können: z.b. verschiedene Arten Definitionen für Laien, Semi-Experten und Experten z.b. Klassifizierung von Verweisen auf wörterbuchexterne Daten nach Relevanz für bestimmte Nutzergruppen Vergleichende Usability-Tests für ausgewählte Designfragen im Bereich der Präsentation, speziell für komplett neue GUI/Präsentationsaspekte Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 18 / 24

Usability-Design für Internetwörterbücher Beispielfall: Zugriff auf Kollokationsdaten Ältere Studie (2011, 2012), Zimmermann 2011, vgl. Vortrag Gouws in Leiden, 03/2013 Heid/Zimmermann 2012 Getestet wurde: Zugriff auf Kollokationsdaten * in potentiell bilingualisierten zielsprachlichen Wörterbüchern * oder ggf. in Kollokationswörterbüchern Zugriff bedeutet dabei: alle Benutzeraktionen * vor dem Start der Suche * und nach der Ausgabe des Ergebnisses Design-Optionen: * Suchmaschinen-Metapher: Worteingabe Suche manuelle Ergebnisselektion * Profilbasierte Wörterbücher: Mehrere Suchkriterien Suche präzise(re)s Ergebnis Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 19 / 24

Usability-Design für Internetwörterbücher Beispielfall: Zugriff auf Kollokationsdaten: Testaufbau Labortest: 13 Probanden: Studierende Übersetzungswissenschaft Homogene Kenntnisse Englisch technologieaffin Aufgaben zu Textproduktion und Textrezeption Drei Prototypen: Identische lexikographische Daten Gleiches grundlegendes GUI-Design Aber: Suchmaschinen-artig vs. profilbasiert Testablauf (jede Person einzeln): Familiarisierung mit dem Wörterbuch Aufgaben, zu lösen mit je einem der drei Prototypen Fragebogen zu Struktur, Zugreifbarkeit der Daten, Benutzerzufriedenheit cf. Lemma.com Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 20 / 24

Usability-Design für Internetwörterbücher Beispielfall: Ergebnisse und methodische Interpretation Ergebnisse: Nutzer sind erfolgreicher und schneller mit den profilbasierten Wörterbüchern Profiltyp ist weniger ausschlaggebend Nutzer bevorzugen die profilbasierten Wörterbücher Aber: unsere Nutzer sind sehr qualitätsorientiert (Übersetzer) Methodische Interpretation Test: klare Fragestellung klares Ergebnis Test funktioniert gut: Benutzer stoßen auf Probleme der GUI-/Zugriffsgestaltung Aufwand für die Usability-Tests: Vincze/Alonso 2013 * Alternativ: online-tests kein Labor nötig * Test auf Basis weniger Probeartikel relativ wenig Aufwand * GUI-Modelle mit Baukästen schnell zu erstellen: funktionaler Prototyp ist realitätsnäher als Folienpräsentation Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 21 / 24

Zusammenfassung Stand der Dinge Usability Design scheint in eine FT-inspirierte lexikographische Sichtweise zu passen Ein mögliches Hilfsmittel (unter anderen) zum Test neuer präsentationeller Konzepte Tests können im Labor oder über das Internet gemacht werden User-centered Design als generelle Sichtweise für Präsentationsaspekte bei Internet-Wörterbüchern impliziert aber mehr: Planung bei der Datenmodellierung: Datenkategorien Entscheidungen zur Selektion der Daten Ggf. komplett neue Ansätze für GUI-Komponenten Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 22 / 24

Zusammenfassung Nötige nächste Schritte Überlegungen zu best practice für GUIs von elektronischen Wörterbüchern U.U. Bewertungsschemata für GUIs, wie sie für Datenkategorien von online-fachwörterbüchern existieren: Datenkategorien vs. Profil-Typen Caruso 2011, 2014 Es braucht noch mehr Erfahrung mit Usability-Tests als Hilfsmittel bei der Entwicklung von Internetwörterbüchern, speziell für neuartige Elemente der Benutzerinteraktion Labortests Online-Experimente Co-Discovery-Sitzungen Experten-Feedback anhand von Spezifikationen Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 23 / 24

Planungen Analyse der Tests an Longman South Africa: bezogen auf die Wörterbücher methodenseitig Tests anhand von neuartigen GUIs, die den Benutzer bei der Textproduktion leiten sollen: für komplexe linguistische Phänomene Prinsloo et al. 2011, Kommentare zu dem Ansatz von Lexikographen und von GUI-Experten Bothma et al. 2013 Heid (U. Hildesheim) UD für elektr. WB dfgnetz-usabfol.tex 24 / 24