1. Einleitung
2. Darstellung der Grundlagen
2.1. Definitionen und Abgrenzungen
2.1.1. Definition und Einordnung von
          wissensbasierten Systemen
2.1.2. Zum Begriff 'Erklärung'
2.1.3. Wissen in wissensbasierten
          Systemen
2.2. Die Erklärungskomponente innerhalb
       eines wissensbasierten Systems
3. Die Erklärungsfähigkeit wissensbasierter
    Systeme
3.1. Die Bedeutung der Erklärungsfähigkeit
3.2. Anforderungen an die Erklärungs-
       fähigkeit von Wissensbasierten
       Systemen 
3.2.1. Die Anforderungen an die
          Erklärungsfähigkeit aus Sicht des
          Knowledge Engineer
3.2.2. Die Anforderungen an die
          Erklärungsfähigkeit aus Sicht der
          Anwender
3.2.2.1. Experten
3.2.2.2. Unwissende Anwender und
             Anwender mit Grund­kenntnissen
3.2.2.3. Studenten
3.3. Augenblicklicher Stand der Erklärungs-
       fähigkeit in eingesetzten
       wissensbasierten Systemen
3.3.1. Trace
3.3.2. Rule Expansion
3.3.3. Canned Text
3.4. Grenzen der augenblicklichen
       Erklärungsfähigkeit in eingesetzten
       wissensbasierten Systemen
4. Die Anforderungen an das
    abzubildende Wissen für eine bessere
    Erklärungsfähigkeit
4.1. Zur Beantwortung von Fragen
       benötigtes Wissen
4.1.1 Ursachen für Fragen
4.1.2. Frage- und Antworttypen
4.1.3. Für die Beantwortung von Fragen
          benötigten Wissensarten
4.1.3.1. Verbesserung der Erklärungs-
             fähigkeit durch Metawissen
4.1.3.2. Die Bedeutung von tiefem Wissen
             für Erklärungen
4.1.4. Die Bedeutung einer getrennten
          Darstellung der verschiedenen
          Wissensarten
4.2. Zur Auswahl der relevanten
       Informationen benötigtes Wissen
4.2.1. Wissen über den Benutzer
4.2.1.1. Modell als Hilfsmittel zur
             Abbildung der
             Benutzereigenschaften
4.2.1.2. Wissen über den Benutzer
4.2.1.3. Dimensionen eines
             Benutzermodells
4.2.1.4. Die Speicherung des Wissens
4.2.1.5. Die Bedeutung von Benutzer-
             modellen im praktischen Einsatz
4.2.2. Wissen über die Komplexität und
          Relevanz von Regeln
4.3. Zur Generierung von Erklärungen
       benötigtes Wissen
4.3.1. Wissen über Erklärungstechniken
          und -strategien
4.3.2. Wissen über die Sprache
4.3.3. Wissen für grafische Erklärungen
5. Die Realisierung der Erklärungs-
    komponente an dem Beispiel XPLAIN
5.1. Die Idee von XPLAIN
5.2. Der Aufbau von XPLAIN
5.3. Die Arbeitsweise des automatischen
       Programmierers
5.4. Die Erstellung von Erklärungen mit
       XPLAIN
5.5. Weiterentwicklungen des XPLAIN-
       Ansatzes
6. Schlußbetrachtung
7. Literaturverzeichnis
8. Anlage
9. Abkürzungsverzeichnis
10. Abbildungsverzeichnis

7. Literaturverzeichnis

AIKINS, J.S.: Prototypical Knowledge for Expert Systems, in: ARTIFICIAL INTELLIGENCE, AN INTERNATIONAL JOURNAL,Vol. 20, 1983, S. 163-210.

ALEXANDER, I.: Graphical Explanation, in: ALVEY KNOWLEDGE BASED SYSTEMS CLUB, EXPLANATION SPECIAL INTEREST GROUP (HRSG.): The Second Alvey Explanation Workshop, Proceedings, University of Surrey, Guildford, 8th - 9th January 1987, Herts 1987, S. 117-126.

APPELRATH, H.-J.: Von Datenbanken zu Expertensystemen, in: Reihe Informatik Fachberichte 102, Berlin/Heidelberg/New York/Tokyo 1985.

AYER, A.J.: The Problem of Knowledge, New York 1956.

BASDEN, A.: What is Deep Knowledge?, in: Alvey IKBS Research Theme Expert Systems, Deep Knowledge Workshop No. 1, University of Sussex, Brighton, 10.-12. July 1985, 1985, o.S..

BECKER, B.; WINKELMANN, G. (HRSG.): Computer-Intelligenz contra menschliche Intelligenz, DAG - Hausdruck 2/85 -35-49893-59, 1985.

BENYON, D.: User Models. What's the Purpose?, in: COOPER, M.; DODSON, D. (EDS.): Alvey Knowledge Based Systems Club, Intelligent Interface Special Interest Group, Proceedings of the Second Intelliaent Interface Meeting, City University, May 28-29th, 1987,'l987, S. 3-14.

BERRY, D.C.; BROADBENT, D.E.: Expert Systems and the Man-Machine Interface. Part Two: The User Interface, in: EXPERT SYSTEMS, Vol. 4, No. 1, 1987, S. 18-27.

BIETHAHN, J.; MUCKSCH, H.; RUF, W.: Ganzheitliches Informationsmanagement, Band 2, Daten und Entwicklungsmanagement, München/Wien 1991.

BODENDORF, F.: Computer in der fachlichen und universitären Ausbildung, Reihe: Handbuch der Informatik, Band 15.1, München/Wien 1990.

BÖHRINGER, B.; CHIOPRIS, C; FUTO, I.: Wissensbasierte Systeme mit Prolog, Reihe Künstliche Intelligenz, Bonn/Reading, Mass./ Menlo Park, Clif./New York/Don Mills, Ontario/Wokingham, England/Amsterdam/Sydney/Singapore/Tokyo/Madrid/San Juan 1988.

BOLAM, W.J,: Explanation in Expert Systems, in: Proceedings of the First Pan Pacific Computer Conference, Vol. 1, Melbourne, 10th-13th Sept. 1985, S. 898-917.

BORKOWSKI, V.; GEIS, W.: Expertensysteme, Grundlagen, in: MERTENS, P. (HAUPTHRSG.): Lexikon der Wirtschaftsinformatik, 2., vollständig neu bearbeitete und erweiterte Auflage, Berlin/Heidelberg/New York/London/Paris/Tokyo/Hong Kong 1990, S. 173-176.

BORKOWSKI, V.; GEIS, W.: Künstliche Intelligenz, in: MERTENS, P. (HAUPTHRSG.): Lexikon der Wirtschaftsinformatik, 2., vollständig neu bearbeitete und erweiterte Auflage, Berlin/ Heidelberg/New York/London/Paris/Tokyo/Hong Kong 1990, S. 252-253.

BRACHMAN, R.J.; AMAREL, S.; ENGELMAN, C; ENGELMORE, R.S.;

FEIGENBAUM, E.A.; WILKINS, D.E.: What Are Expert Systems?, in: HAYES-ROTH, F.; WATERMAN, D.A.; LENAT, D.B. (EDS.):

Buildung Expert Systems, Teknowledge Series in Knowledge Engineering, Vol. 1, London/Amsterdam/Don Mills, Ontario/ Sydney/Tokyo 1983, S. 31-57.

BRATKO, I.| MOZETIC, I.; LAVRAC, N.: KARDIO: A Study in Deep and Qualitative Knowledge for Expert Systems, Camebridge/ London, 1989.

BROCKHAUS ENZYKLPÄDIE: In zwanzig Bänden, Siebzehnte völlig neubearbeitete Auflage des großen Brockhaus, Band 6, Wiesbaden, 1968.

BRUFFAERTS, A.; HENIN, E.; PIROTTE, A.: A Sound Basis for the Generation of Explanations in Expert Systems, in: PHILIPS TECHNICAL REVIEW Vol. 44, No. 8/9/10, May 1989, S. 287-295.

BUCHBERGER, E.: Sprachverarbeitung, in: MERTENS, P.(HAUPTHRSG.): Lexikon der Wirtschaftsinformatik, Zweite, vollständig neu bearbeitete und erweiterte Auflage, Berlin/Heidelberg/New York/London/Paris/Tokyo/Hong Kong/ Barcelona 1990, S. 399-400.

BUNKE, H.: Künstliche Intelligenz und Expertensysteme: Grundlegende Begriffe, Anwendungen und zukünftige Perspektiven, in: BUNKE, H., MEY, H. (HRSG.): Künstliche Intelligenz und Expertensysteme, Reihe Beiträge zur Mathematik, Informatik und Nachrichtentechnik, Band 8, Bern 1987, S. 11-24.

BUTTENBRUCH, P.; FRICK, D.: Kognitionspsychologische Aspekte der Wissensaquisition, Diskussionsbeiträge des Fachbereichs Wirtschaftswissenschaft der Universität - Gesamthochschule - Duisburg, Nr. 120, Duisburg, August 1989.

CAVIEDES, J; BOURNE, J.; BRODERSEN, A.; OSBORNE, P.; ROSS, A.; SCHAFFER, J.D.; BENGTSON, G.: A Meta-Knowledge Architekture for Planning and Explanation in Repair Domains, in: TZAFESTAS, S.G. (ED.): Knowledge-Based System Diagnosis, Supervision and Control, Applied Information Technology Series, New York/London 1989, S. 11-26.

CLEAL, D.M.; HEATON, N.O.: Knowledge-Based Systems: Implications for Human-Computer Interfaces, Ellis Horwood Series in Information Technology, New York/Chichester/Brisbane/ Toronto, 1988.

CHANDRASEKARAN, B.; JOSEPHSON, J.; KEUNEKE, A.: Functional Representations as a Basis for Generating Explanations, in: International Conference on Cybernetics and Society, International Conference on Systems, Man and Cybernetics, Proceedings, Atlanta, 14.-17.10. 1986, IEEE, 1986, S. 726-731.

CHANDRASEKARAN, B.; MITTAL, S.: Deep Versus Compiled Knowledge Approaches to Diagnostic Problem-Solving, in: INTERNATIONAL JOURNAL OF MAN-MACHINE STUDIES, Special Issue on Advances in Fuzzy Information Processing, Vol. 19, 1983, S. 425-436.

CHANDRASEKARAN, B.; TANNER, M.C.; JOSEPHSON, J.R.: Explanation: The Role of Control Strategies and Deep Models, in: HENDLER, J. A. (ED.): Expert Systems: The User Interface, Norwood, New Jersey, 1988, S. 219-247.

CLANCEY, W.J.: Transfer of Rule-Based Expertise Through a Tutorial Dialogue, STAN-CS-79-769, Doctoral Dissertation, Stanford, CA 1979.

CLANCEY, W.J.: The Epistemology of a Rule-Based Expert System

- a Framework for Explanation, in: ARTIFICIAL INTELLIGENCE

- AN INTERNATIONAL JOURNAL, Vol. 20, 1983, S. 215-251.

CLANCEY, W.J.; LETSINGER, R.: NEOMYCIN: Reconfiguring a Rule-Based Expert System for Application to Teaching, in: DRINAN, A. (ED.): Proceedings of the Seventh International Joint Conference on Artificial Intelligence (IJCAI-81), Aug. 24.-28., 1981, Vancouver, B.C., Canada, Vol. 2, Los Altos, California 1981, S. 829-836.

CLEAL, D.M.; HEATON, N.O.: Knowledge-Based Systems: Implications for Human-Computer Interfaces, Ellis Horwood Series in Information Technology, New York/Chichester/Brisbane/ Toronto 1988.

CONSOLE, L.; FOSSA, M.; TORASSO, P.; MOLINO, G.; CRAVETTO, C: Man-Machine Interaction in Check in: FOX, J; FIESCHI, M.; ENGELBRECHT, R. (EDS.): Proceedings AIME 87, European Conference on Artificial Intelligence in Medicine, Marseille, August 31. - September 3. 1987, Series Lecture Notes in Medical Informatics, Vol. 33, Berlin/Heidelberg/New York/ London/Paris/Tokyo 1987, S. 205-212.

COY, W.; BONSIEPEN, L.: Erfahrung und Berechnung: Kritik der Expertensystemtechnik, Reihe Informatik Fachberichte 229, Subreihe Künstliche Intelligenz, Berlin/Heidelberg/New York/ London/Paris/Tokyo/Hong Kong, 1989.

CROOK, N.: Impementing Question Types, Group Report, in: ALVEY KNOWLEDGE BASED SYSTEMS CLUB, EXPLANATION SPECIAL INTEREST GROUP (HRSG.): Proceedings of the Second Workshop, University of Surrey, January 8-9th, 1987, Herts 1987, S. 141-147.

DAALEN, C. VON; JASPERS, R.B.M.: Explanation Improvement to Enhance Acceptance of the PLEXUS System, in: HUNTER, J.; COOKSON, J,; WYATT, J. (EDS.): AIME 89, Proceedings of the Second European Conference on Artificial Intelligence in Medicine, London, August 29.-31., 1989, Berlin/Heidelberg/New York/London/Paris/Tokyo/Hong Kong 1989, S. 286-295.

DAVIS, R.: Knowledge-Based Systems, in: SCIENCE, Vol. 231, 1986, S. 957-963.

DAVIS, R.; BUCHANAN, B.G.: Meta-Level Knowledge: Overview and Applications, in: Proceedings of the Fifth International Joint Conference on Artificial Intelligence (IJCAI-77), Aug. 22.-25., 1977, Cambridge, California, Vol. 2, Los Altos, California 1977, S. 920-927.

DAVIS, R.; BUCHANAN, B.; SHORTLIFFE, E.: Production Rules as a Representation for a Knowledge-Based Consultation Program, in: REGGIA, J.A.; TUHRIM, S. (EDS.): Computer-Assisted Medical Decision Making, Volume 2, Series Computers and Medicine, New York/Berlin/Heidelberg/Tokyo 1985, S. 13-37.

DODSON, D.C.: Explanation Explanation ..., A Brief Sketch, in: ALVEY IKBS EXPERT SYSTEMS THEME (HRSG.): Workshop on 'Explanation1, Report and Proceedings, University of Surrey, 20.-21. March, 1986, Herts 1986, S. 56-62.

DODSON, D.C.: Graphical Explanations Group, Research Recommendations, in: ALVEY KNOWLEDGE BASED SYSTEMS CLUB, EXPLANATION SPECIAL INTEREST GROUP (HRSG.): The Second Alvey Explanation Workshop, Proceedings, University of Surrey, Guildford, 8th - 9th January 1987, Herts 1987, S. 115-116.

EISENSTADT, M.; BRAYSHAW, M.; DODD, T.: An Advanced Graphical Tracer and Debugger for Prolog, in: ALVEY KNOWLEDGE BASED SYSTEMS CLUB, EXPLANATION SPECIAL INTEREST GROUP (HRSG.): The 4th Alvey Explanation Workshop, Proceedings, University of Manchester, Sep. 14-16., 1988, Herts 1988, S. 19.

ELLIS, C: Explanation in Intelligent Systems, in: ELLIS, C. (ED.): Expert Knowledge and Explanation: The Knowledge-Language Interface, Ellis Horwood Books in Information Technology, Chichester 1989, S. 108-126.

ERDMAN, H.P.: The Impact of an Explanation Capability for a Computer Consultation System, in: METHODES OF INFORMATION IN MEDICINE, Vol. 24, No. 4, 1985, S. 181-191.

FILER, N.P.; NG, D.C.Y.: Demonstration of the "Manchester Graphical Explanations Environment" -MAGEE-, in: ALVEY KNOWLEDGE BASED SYSTEMS CLUB, EXPLANATION SPECIAL INTEREST GROUP (HRSG.): The 4th Alvey Explanation Workshop, Proceedings, University of Manchester, Sep. 14-16., 1988, Herts 1988, S. 37-49.

FRANK, U.: Expertensysteme: Konzepte, Probleme und Potentiale -Ein kritischer Überblick, in: KRUSE, H.-G.; FRANK, U., (HRSG.): Praxis der Expertensysteme, München/Wien 1989, S. 1-36.

GILBERT, G.N.: Question and Answer Types, in: MORALEE, D.S. (ED.): Research and Developement in Expert Systems IV, Proceedings of Expert Systems'87, the Seventh Annual Technical Conference of the British Computer Society Specialist Group on Expert Systems, Brighton, 14.-17. Dec. 1987, The British Computer Society Workshop Series, Camebridge/London/New York/New Rochelle/Melbourne/Sydney 1988, S. 162-172.

GILBERT, N.: Explanation as Process, in: ALVEY KNOWLEDGE BASED SYSTEMS CLUB, EXPLANATION SPECIAL INTEREST GROUP (HRSG.): The 4th Alvey Explanation Workshop, Proceedings, University of Manchester, Sep. 14-16., 1988, Herts 1988, S. 67-86.

GÖTTE, U.: Betriebswirtschaftliche Expertensysteme: Wunsch und Wirklichkeit, Betriebswirtschaftliche Schriftenreihe, Band 61, Münster/Hamburg 1990.

GOTTS, N.M.; HUNTER, J.R.W.: Using "Deep" Knowledge in Medical Artificial Intelligence - A Review of Some Recent Work, in: Alvey IKBS Research Theme Expert Systems, Deep Knowledge Workshop No. 1, University of Sussex, Brighton, 10.-12. July 1985, 1985, S. 1-28.

HARMON, P.; KING, D.: Expertensysteme in der Praxis: Perspektiven, Werkzeuge, Erfahrungen, 3., aktualisierte und ergänzte Auflage, München/Wien 1989.

HART, P.E.: Directions for AI in the Eighties, in: SIGART NEWSLETTER, A Quarterly Publication of the ACM Special Interest Group on Artificial Intelligence, No. 79, January 1982, S. 11-16.

HASLING, D.W.; CLANCEY, W.J.; RENNELS, G.: Stratigic explanations for a diagnostic consultation system, in: INTERNATIONAL JOURNAL OF MAN-MACHINE STUDIES, Special Issue on Developement in Expert Systems, Part 2, Vol. 20, 1984, S. 3-19.

HENNE, P.; KLAR, W.; WITTUR, K.-H.: -DEX.C3-, Ein Expertensystem zur Fehlerdiagnose im automatischen Getriebe, in: BRAUER, W.; RADIG, B. (HRSG.): Wissensbasierte Systeme, GI-Kongreß, München 28/29. Okt. 1985, Reihe Informatik Fachberichte 112, Subreihe Künstliche Intelligenz, Berlin/ Heidelberg/New York/Tokyo 1985, S. 105-120.

HERRMANN, T.: Zur Gestaltung der Mensch-Computer- Interaktion: Systemerklärungen als komunikatives Problem, Reihe Sprache und Information, mit einer einf. Würdigung von W. Langenheder, Tübingen 1986.

HUBER, K.-P.: Erklärungskomponente für das Expertensystem XUMA unter Berücksichtigung verschiedener Benutzerklassen, Karlsruhe 1988.

HUGHES, S.: HOW and WHY: HOW far will they take us, and WHY should we need any more?, in: ALVEY IKBS EXPERT SYSTEMS THEME (HRSG.): Workshop on 'Explanation', Report and Proceedings, University of Surrey, 20.-21. March 1986, Herts 1986, S. 69-82.

HUGHES, S.: Question Classification in Rule-Based Systems, in: BRAMER, M.A. (ED.): Research and Developement in Expert Systems III, Proceedings of Expert Systems'86, The Sixth Annual Technical Conference of the British Computer Society Specialist Group on Expert Systems, Brighton, 15.-18. Dec. 1986, The British Computer Society Workshop Series, Camebridge/London/New York/New Rochelle/Melbourne/Sydney 1987, S. 123-131.

HUMPHRIES, S.: Some Questions Involving Graphical Explanations, in: ALVEY KNOWLEDGE BASED SYSTEMS CLUB, EXPLANATION SPECIAL INTEREST GROUP (HRSG.): Proceedings of the Second Workshop, University of Surrey, January 8-9th, 1987, Herts 1987, S. 131-135.

JABLONSKI, K.: Generierung konjugierter Verben mit TWAICE. Zur Erklärungs- und Instruktionsfähigkeit, Verbundvorhaben WISBER, Nixdorf Computer AG, Memo Nr. 9, September 1986.

JACKSON, P.: Explaining Expert Systems Behaviour, in: ALVEY IKBS EXPERT SYSTEMS THEME (HRSG.): Workshop on 'Explanation', Report and Proceedings, University of Surrey, 20.-21. March 1986, Herts 1986, S. 83-95.

JOHNSON, T.: The Commercial Application of Expert Systems Technology, London 1984.

KIDD, A.L.: What do User Ask? - Some Thoughts on Diagnostic Advice, in: MERRY, M. (ED.): Expert Systems'85, Proceedings of the Fith Technical Conference of the British Computer Society Specialist Group on Expert Systems, Warwick, 17.-19. Dec. 1985, The British Computer Society Workshop Series, Camebridge/London/New York/New Rochelle/Melbourne/Sydney 1985, S. 9-19.

KIDD, A.L.: The Consultative Role of an Expert System, in: JOHNSON, P.; COOK, S. (EDS.): People and Computers: Designing the Interface, Proceeding of the Conference of the British Computer Society Human Computer Interaction Specialist Group, University of East Anglia, 17.-20. Sept. 1985, The British Computer Society Workshop Series, Camebridge/London/New York/New Rochelle/Melbourne/Sydney 1985, S. 245-254.

KIDD, A. L.: Explanation for Expert Systems - Some Data and an Initial Categorisation, (Position Paper for Workshop on Explanation, March 1986), in: ALVEY IKBS EXPERT SYSTEMS THEME (HRSG.): Workshop on 'Explanation', Report and Proceedings, University of Surrey, 20.-21. March, 1986, Herts 1986, S. 120-121.

KLEE, H.W.: Zur Akzeptanz von Expertensystemen: Eine empirische Analyse der Relevanz und Angemessenheit der Erklärungskomponente, Reihe: Planung, Information und Unternehmensführung, Band 27, Bergisch Gladbach/Köln 1989.

KLEIN, D.; FININ, T.: What is a Deep Model?: A Characterization of Knowledge Depth in Intelligent Safety Systems, in: McDERMOTT, J. (ED.): Proceedings of the Tenth International Joint Conference on Artificial Intelligence (IJCAI-87), Aug. 23.-28., 1987, Milan, Vol. 1, Los Altos, California 1987, S. 559-562.

KOCURA, P.: Deep-Model-Driven Knowledge Acquisition for Expert Systems, in: Alvey IKBS Research Theme Expert Systems, Deep Knowledge Workshop No. 1, University of Sussex, Brighton, 10.-12. July 1985, 1985.

KURBEL, K.: Entwicklung und Einsatz von Expertensystemen: eine anwendungsorientierte Einführung in wissensbasierte Systeme, Berlin/Heidelberg/New York/London/Paris/Tokyo 1989.

LADWIG, B.; MELLIS, W.: Negative Erklärungen in einem EMYCIN-artigen Expertensystem-Shell, in: BALZERT, H.; HEYER, G.; LUTZE, R. (HRSG.): Expertensysteme'87: Konzepte und Werkzeuge, tutorials Tagung 1/1987 das Germen Capters of the ACM, 7./8.4.1987, Nürnberg, Reihe Berichte des German Capter of the ACM, Band 28, Stuttgart 1987, S. 150-168.

LAUBSCH, J.: Techniken der Wissensdarstellung, in: HABEL, C, (HRSG.): Künstliche Intelligenz, Repräsentation von Wissen und natürlichsprachliche Systeme, Frühjahrsschule, Dassel (Soiling), 5.-16. März 1984, Reihe Informatik Fachberichte 93, Berlin/Heidelberg/New York/Tokyo 1985, S. 48-93.

LEBSANFT, E.W.; GILL, U.: Expertensysteme in der Praxis -Kriterien für die Verwendung von Expertensystemen zur Problemlösung, in: SAVORY, S.E. (HRSG.): Expertensysteme: Mutzen für Ihr Unrternehmen: Ein Leitfaden für Entscheidungsträger, München/Wien 1987, S. 135-149.

LEHMANN, E.: Wissensbasierte Systeme - eine neue Entwicklungstechnologie für Anwendungssoftware? in: BUNKE, H., MEY, H. (EDS.): Künstliche Intelligenz und Expertensysteme, Reihe Beiträge zur Mathematik, Informatik und Nachrichtentechnik, Band 8, Bern 1987, S. 195-210.

LEHNERT, W.G.: The Process of Question Answering: A Computer Simulation of Cognition, New York/Toronto/London/Sydney 1978.

LENAT, D.B.; DAVIS, R.; DOYLE, J.; GRENESERETH, M.;

GOLDSTEIN, I.; SCHROBE, H.: Reasoning about Reasoning, in: HAYES-ROTH, F.; WATERMAN, D.A.; LENAT, D.B. (EDS.): Building Expert Systems, Teknowledge Series in Knowledge Engineering, Vol. 1, London/Amsterdam/Don Mills, Ontario/ Sydney/Tokyo 1983, S. 219-239.

MAßLER, T.; RITTIRSCH, T.: Eine WARUM-NICHT- Komponente zur Erweiterung der Erklärungsfähigkeit von Expertensystemen, Universität Giessen, Fachbereich Witschaftswissenschaften, Diskussion Paper No. 1/1990, Giessen 1990.

McKEOWN, K.R.; WISH, M.; MATTHEWS, K.: Tailoring Explanations for User,in: JOSHI, A. (ED.): Proceedings of the Ninth International Joint Conference on Artificial Intelligence (IJCAI-85), Aug. 18.-23., 1985, Los Angeles, California, Vol. 2, Los Altos, California, 1985, S. 794-798.

MERTENS, P.; ALLGEYER, K.: Künstliche Intelligenz in der Betriebswirtschaft, in: ZfB, Heft 7, 53. Jg., 1983, S. 686-709.

MERTENS, P.; BIEBINGER, H.: Entwicklungsphasen wissensbasierter Systeme, in: KI - KÜNSTLICHE INTELLIGENZ: FORSCHUNG, ENTWICKLUNG, ERFAHRUNGEN, Heft 3, 1989, S. 64-67.

MERTENS, P.; BORKOWSKI, V.; GEIS, W.: Betriebliche Expertensystem-Anwendungen, 2., völlig neu bearbeitete und erweiterte Auflage, Reihe Betriebs- und Wirtschaftsinformatik, Berlin/Heidelberg/New York/London/Paris/Tokyo/ Hong Kong 1990.

MOORE, D.J.; SWARTOUT, W.R.: Explanations in Expert Systems: A Survey, NTIS, Dec. 88, AD-A206 283/4/WCC, Microfiche.

MORGADO, E.: Meta-Knowledge, Meta-Rules, and Meta- Reasoning, in: SHAPIRO, S.C. (ED.): Encyclopedia of Artificial Intelligence, Vol. 1, New York/Chichester/Brisbane/Toronto/ Singapore 1987, S. 598-603.

MORRIS, A.: Expert Systems - Interface Insight, in: DIAPER, D.; WINDER, R. (EDS.): People and Computers III, Proceeding of the Third Conference of the British Computer Society Human-Computer Interaction Specialist Group, University of Exeter, 7.-11. Sept. 1987, The British Computer Society Workshop Series, Camebridge/London/New York/New Rochelle/ Melbourne/Sydney 1987, S. 307-324.

NEBENDAHL, D. : Expertensysteme, Teil 1: Einführung in die Technik und Anwendung, 2. Aufl., Berlin/München 1990.

NECHES, R.; SWARTOUT, W.R.; MOORE, J.: Enhanced Maintenance and Explanation of Expert Systems Through Explicit Models of Their Developement, in: FOX, M. (HRSG.): IEEE Workshop on Principles of Knowledge-Based Systems, Denver, Colorado, 3.-4. Dec. 1984, Los Angeles, Calif. 1984, S. 173-183.

NECHES, R.; SWARTOUT, W.R.; MOORE, J.: Explainable (and Maintainable) Expert Systems, in: JOSHI, A. (ED.): Proceedings of the Ninth International Joint Conference on Artificial Intelligence (IJCAI-85), Aug. 18.-23., 1985, Los Angeles, California, Vol. 1, Los Altos, California 1985, S. 382-389.

NEWELL, A.; SIMON, H.: GPS, a Program That Simulates Human Thought, in: FEIGENBAUM, E.A.; FELDMANN, J. (EDS.): Computers and Thought, New York 1963, S. 279-296.

O'MALLEY, C: Explanation and Expectation: Why ask why?, in: ALVEY KNOWLEDGE BASED SYSTEMS CLUB, EXPLANATION SPECIAL INTEREST GROUP (HRSG.): The Third Alvey Explanation Workshop, Proceedings, University of Surrey, Guildford, 29th Sept. - Oct. 1st, 1987, Herts 1987, S. 157-167.

ORTONY, A.; PARTRIDGE, D.: Surprisiness and Expectation Failure: What's the difference?, in: McDERMOTT, J. (ED.): Proceedings of the Tenth International Joint Conference on Artificial Intelligence (IJCAI-87), Aug. 23.-28., 1987, Milan, Vol. 1, Los Altos, California 1987, S. 106-108.

PARIS, C.L.: Combining Discourse Strategies to Generate Descriptions to Users Along a Naive/Expert Spectrum, in: McDERMOTT, J. (ED.): Proceedings of the Tenth International Joint Conference on Artificial Intelligence (IJCAI-87), 23.-28. Aug. 1987, Milan, Vol. 2, Los Altos, California 1987, S. 626-632,

PARIS, C.L.: The Use of Explicit User Models in a Generation System for Tailoring Answers to the User's Level of Expertise, in: KOBSA, A.; WAHLSTER, W. (EDS.): User Models in Dialog Systems, Berlin/Heidelberg/New York/London/Paris/ Tokyo/Hong Kong 1989, S, 200-232.

PFEIFER, R.: Expertensysteme: Eine kritische Einführung, in: BUNKE, H., MEY, H. (HRSG.): Künstliche Intelligenz und Expertensysteme, Reihe Beiträge zur Mathematik, Informatik und Nachrichtentechnik, Band 8, Bern, 1987, S. 37-52.

PUPPE, F.: Einführung in Expertensysteme, Berlin/Heidelberg/ New York/London/Paris/Tokyo 1988.

REIMER, U.: Einführung in die Wissensrepräsentation: netzartige und schema-basierte Repräsentationsformate, Reihe Leitfäden der angewandten Informatik, Stuttgart, 1991.

RETTI, J.: Knowledge Engineering und Expertensysteme, in: RETTI, J., ET AL. (HRSG.): Artificial Intelligence. Eine Einführung, Stuttgart 1984, S. 73-98.

RICH, E.: Users are Individuals: Individualizing User Models, in: INTERNATIONAL JOURNAL OF MAN-MACHINE STUDIES, Vol. 18, 1983, S. 199-214.

RICHTER, M.M.: Prinzipien der Künstlichen Intelligenz: Wissensrepräsentation, Inferenz und Expertensysteme, Stuttgart 1989.

ROGERS, Y.: User Requirements For Expert System Explanation: What, Why and When, in: JONES, D.M.; WINDER, R. (EDS.) Proceedings of the 4th Conference of the British Computer Society Human Computer Interaction Spechialist Group, Manchester (UK), 5.-9. Sep. 1988, Camebridge/New York 1988, S. 547-564.

SAVORY, S.E.: What is an Explanation?, in: KBS 86, Knowledge Based Systems, Proceedings of the International Conference, London, July 1986, Online 1986, Advanced Computing Series: 2, 1986, S. 231-238.

SAVORY, S.E.: Grundlagen von Expertensystemen: Ein Lehrbuch der Nixdorf Computer AG, München/Wien 1988.

SCHNUPP, P. (HRSG.): Expertensysteme, State of the Art: 1, München/Wien 1986.

SCHNUPP, P.; LEIBRANDT, U.: Expertensysteme. Nicht nur für Informatiker, Berlin/Heidelberg/New York 1988.

SCHNUPP, P.; NGUYEN HUU, CT.: Expertensystem - Praktikum, Berlin/Heidelberg/New York/London/Paris/Tokyo 1987.

SHEIL, B.: Thinking About Artificial Intelligence, in: HARVARD BUSINESS REVIEW, Vol. 65, Number 4, July-August, 1987, S. 91-97.

SHORTLIFFE, E.H.: Computer-Based Medical Consultations: MYCIN, Artificial Intelligence Series: 2, New York/Oxford/Amsterdam 1976.

SHORTLIFFE, E.H.; DAVIS, R.; AXLINE, S.G.; BUCHANAN, B.G.; GREEN, C.C.; COHEN, S.N.: Computer Based Consultations in Clinical Therapeutics: Explanation and Rule Acquisition Capabilities of the MYCIN System, in: COMPUTERS AND BIOMEDICAL REASEARCH, Vol. 8, 1975, 303-320.

SOUTHWICK, R.W.: Topic Explanation in Expert Systems, in: KELLY, B.; RECTOR, A. (EDS.): Proceedings of the 8th technical conference of the British Computer Society Specialist Group on Expert Systems, Brighton (UK), 12.-15. Dec. 1988, Cambridge/New York 1989, S. 47-57.

STAHLKNECHT, P.: Einführung in die Wirtschaftsinformatik, vierte, völlig überarbeitete und aktualisierte Auflage, Berlin/Heidelberg/New York/London/Paris/Tokyo/Hong Kong 1989.

STEELS, L.: Second Generation Expert Systems, in: FGCS -

FUTURE GENERATION COMPUTER SYSTEMS, Vol. 1, Number 1, 1984/1985 S. 213-221.

STEGEMUELLER, W.: Probleme und Resultate der Wirtschaftstheorie und Analytischen Philosophie, Band 1: Erklärung und Begründung, 2. Auflage, Berlin/Heidelberg/New York 1983.

STERLING, L.; YALCINALP, Ü.L.: Explaining Prolog Based Expert Systems Using a Layered Meta-Interpreter, in: SRIDHARAN, N.S. (ED.): Proceedings of the Eleventh International Joint Conference on Artificial Intelligence (IJCAI-89), August 20.-25., 1989, Detroit, Michigan, Vol. 1, San Mateo, California 1989, S. 66-71.

STOYAN, H.: Wissen wissensbasierte Programme etwas?, Ein Versuch über den Terminus "Wissensrepräsentation", in: HEYER, G.; KREMS, J.; GÖRZ, G. (HRSG.): Wissensarten und ihre Darstellung, Beiträge aus Philosophie, Psychologie, Informatik und Linguistik, Reihe Informatik Fachberichte 169, Subreihe Künstliche Intelligenz, Berlin/Heidelberg/New York/London/Paris/Tokyo 1988, S. 250-261.

STREITZ, N.: Subjektive Wissensrepräsentation als Determinanten kognitiver Prozesse, Dissertation, Aachen, 1986,

SWARTOUT, W.R.: A Digitalis Therapy Advisor with Explanations, in: Proceedings of the 5th International Joint Conference on Artificial Intelligence (IJCAI-77), Aug. 22.-25., 1977, Camebridge, Massachusetts, Vol. 2, 1977, Los Altos, California S. 819-825.

SWARTOUT, W.R.: Producing Explanations and Justifications of Expert Consulting Programs, MIT Laboratory for Computer Science, Technical Report: MIT/LCS/TR-251, Ph.D., Camebridge, Massachusetts 1981.

SWARTOUT, W.R.: Explaining and Justifying Expert Consulting Programs, in: DRINAN, A. (ED.): Proceedings of the Seventh International Joint Conference on Artificial Intelligence (IJCAI-81), Aug. 24.-28., 1981, Vancouver, B.C., Canada, Vol. 2, Los Altos, California 1981, S. 815-823.

SWARTOUT, W.R.: XPLAIN: a System for Creating and Explaining Expert Consulting Programs, in: ARTIFICIAL INTELLIGENCE -AN INTERNATIONAL JOURNAL, Vol. 21, 1983, S. 285-325.

SWARTOUT, B.: The GIST Behavior Explainer, in: Proceedings of the Third Annual National Conference in Artificial Intelligence, Washington, D.C. 1983, S. 402-407.

SWARTOUT, W.R.: Knowledge Needed for Expert System Explanation, in: WOJICIK, A.S. (ED.): National Computer Conference, July 15.-18., 1985, Chicago, Illinois, AFIPS Conference Proceedings Vol. 54, Reston, Virginia 1985, S. 93-98.

SWARTOUT, W.R.: Explanation, in: SHAPIRO, S.L. (ED.): Encyclopedia of Artificial Intelligence, Vol. 1, New York/Chichester/Brisbane/Toronto/Singapore 1987, S. 298-300.

SWARTOUT, W.R.; SMOLIAR, S.W.: On Making Expert Systems more Like Experts, in: EXPERT SYSTEMS, Vol. 4, No. 3, 1987, S. 196-207.

SWARTOUT, W.R.; SMOLIAR, S.W.: Explaining the Link Between Causal Reasoning and Expert Behavior, in: MILLER, P.L. (ED.): Selected Topics in Medical Artificial Intelligence, Series Computers and Medicine, New York/Berlin/Heidelberg/ London/Paris/Tokyo 1988, S. 73-84.

TEACH, R.L.; SHORTLIFFE, E.H.: An Analysis of Physician Attitudes Regarding Computer-Based Clinical Consultation Systems, in: COMPUTERS AND BIOMEDICAL RESEARCH, Vol. 14, 1981, S. 542-558.

THUY, N.H.C.; SCHNUPP, P.: Wissensverarbeitung und Expertensysteme, Reihe: Handbuch der Informatik, Band 6.1., München/ Wien 1989.

TYLER, S.W.: SAUCI: Seif-Adaptive User-Computer Interface, Ph.D., University of Pittsburgh, 1986.

VELDE, W. VAN DE: Explainable Knowledge Production, in: BOULAY, B. DU; HOGG, P.; STEELS, L. (EDS.): Advances in Artificial Intelligence - II, Seventh European Conference on Artificial Intelligence, ECAI-86, Brighton, U.K., July 20.-25., 1986, Amsterdam/New York/Oxford/Tokyo 1987, S. 37-51.

WALSTER, W.: Natürlichsprachliche Argumentation in Dialogsystemen: KI-Verfahren zur rekonstruktion und Erklärung approximativer Inferenzprozesse, Reihe Informatik Fachberichte 48, Berlin/Heidelberg/New York 1981.

WAHLSTER, W.: Erklärungskomponenten als Dialogwerkzeuge, in: OFFICE MANAGEMENT: Sonderheft, 1983, S. 45-48.

WALDHÖR, K.; ANSCHÜTZ, H.: User Centered Explanations in Knowledge Based Systems, in: DIAPER, D.; ET AL. (EDS.): Human-Computer Interaction - INTERACT'90, Amsterdam 1990, S. 809-814.

WALLIS, J.W.; SHORTLIFFE, E.H.: Explanatory Power for Medical Expert Systems: Studies in the Representation of Causal Relationships for Clinical Consultations, in: METHODES OF INFORMATION IN MEDICINE, Vol. 21, No. 1, 1982, S. 127-136.

WATERMAN, D.A.: A Guide to Expert Systems, The Teknowledge Series in Knowledge Enqineerina, Reading, Massachusetts, 1986.

WEINER, J.L.: BLAH, A System Which Explains its Reasoning, in: ARTIFICIAL INTELLIGENCE - AN INTERNATIONAL JOURNAL, Vol. 15, 1980, S. 19-48.

WEINER, J.L.: The Effect of User Models on the Production of Explanations, in: ELLIS, C. (ED.): Expert Knowledge and Explanation: The Knowledge-Language Interface, Ellis Horwood Books in Information Technology, Chichester, 1989, S. 144-156.

WEXELBLAT, R.L.: On Interface Requirements for Expert Systems, in: AI MAGAZINE, Vol. 10, No. 3, 1989, S. 66-78.

WICK, M.R.; SLAGLE, J.R.: An Explanation Facility for Today's Expert Systems, in: IEEE EXPERT, Vol. 4, No. 1, 1989, 3. 26-36.

WICK, M.R.; THOMPSON, W.B.: Reconstructive Explanation: Explanation as Complex Problem Solving, in: SRIDHARAN, N.S. (ED.): Proceedings of the Eleventh International Joint Conference on Artificial Intelligence (IJCAI-89), August 20.-25., 1989, Detroit, Michigan, Vol. 1, San Mateo, California 1989, S. 135-140.

YASDI, R.: Design of the EXIS's Explanation Component, in: COMPUTERS IN INDUSTRY, Vol. 13, No. 1, 1989, S. 15-21.

ZELEWSKI, S.: Einsatz von Expertensystemen in den Unternehmen: Anwendungsmöglichkeiten, Bewertungsaspekte und Probleme künstlicher Intelligenz, Stuttgart 1989.

ZIMBRICH, F.: Eine Untersuchung über den Begriff des Wissens, Dissertation, Johan Wolfgang Goethe Universität, Frankfurt a.M., Fachbereich Philosophie, 1975.