Transcript Chapter 13 ADVANCED INTELLIGENT SYSTEMS 1

Chapter 13
ADVANCED INTELLIGENT SYSTEMS
1
Learning Objectives
ทำควำมเข้ำใจเกี่ยวกับแนวควำมคิดของกำรเรี ยนรู ้ของเครื่ องจักร (machine-learning)
เรี ยนรู ้ถึงแนวควำมคิดและกำรประยุกต์ใช้ของ case-based systems
ทำควำมเข้ำใจแนวควำมคิดและกำรประยุกต์ใช้ของ genetic algorithms
ทำควำมเข้ำใจ fuzzy set theories และกำรประยุกต์ใช้ในกำรออกแบบ intelligent
systems
 ทำควำมเข้ำใจแนวควำมคิดและกำรประยุกต์ใช้ของ natural language processing
(NLP)
 เรี ยนรู ้เกี่ยวกับแนวควำมคิด ข้อได้เปรี ยบ และข้อจำกัดของ voice technologies
 เรี ยนรู ้เกี่ยวกับ integrated intelligent support systems




2
Machine-Learning Techniques
 นิยำมและแนวควำมคิดของ Machine-learning
 Machine learning
กระบวนกำรที่ซ่ ึ งคอมพิวเตอร์ เรี ยนรู ้จำกประสบกำรณ์ (เช่น กำรใช้โปรแกรม
ที่สำมำรถเรี ยนรู ้จำกกรณี ต่ำง ๆ จำกอดีต (historical cases))
3
Machine-Learning Techniques
 กำรเรี ยนรู ้ของมนุษย์เป็ นกำรรวมกันของกระบวนกำรรู ้จำที่ซบั ซ้อนหลำย ๆ
กระบวนกำรเข้ำด้วยกัน อันได้แก่:
 Induction (กำรยอมรับเรื่ องทัว่ ๆ ไป โดยเอำเรื่ องเฉพำะมำอ้ำง)
 Deduction (กำรยอมรับเรื่ องเฉพำะใด ๆ โดยยกเรื่ องทัว่ ๆ ไปมำอ้ำง)
 Analogy (กำรเทียบเคียง)
 กำรบวนกำรพิเศษอื่น ๆ ที่สัมพันธ์กบั กำรสังเกตุหรื อตัวอย่ำงจำกกำรวิ
เครำห์
4
Machine-Learning Techniques
 กำรเรี ยนรู ้สัมพันธ์กบั intelligent system อย่ำงไร
 ระบบกำรเรี ยนรู ้แสดงถึงพฤติกรรมในกำรเรี ยนรู ้ในเรื่ องที่สนใจ
 AI ไม่สำมำรถเรี ยนรู ้ได้ดีเช่นเดียวกับมนุษย์ หรื อ ในแนวทำงเดียวกับ
มนุษย์
 Machine learning ไม่สำมำรถใช้ได้กบั แนวทำงควำมคิดสร้ำงสรรค์ แม้วำ่
ระบบเหล่ำนั้นจะสำมำรถจัดกำรกับกรณี ต่ำงๆ ที่ไม่เคยจัดกำรมำก่อนได้ก็
ตำม
 มันยังไม่ชดั เจนว่ำทำไม learning systems จึงประสบควำมสำเร็ หรื อล้ม
เหลว
 อุปสรรคที่เหมือน ๆ กันของกำรใช้แนวทำงของ AI ไปเพื่อกำรเรี ยนรู ้กค็ ือ
มันดำเนินกำรบนสัญลักษณ์ (symbols) แทนที่จะเป็ นสำรสนเทศเชิงตัวเลข
5
Machine-Learning Techniques
 วิธีกำรเรี ยนรู ้ของเครื่ องจักร
 Supervised learning
วิธีกำรเรี ยนสอน artificial neural networks โดยใช้กรณี ตวั อย่ำงป้อนเข้ำไปที่
อินพุตของโครงข่ำยแล้วมันจะทำกำรปรับค่ำถ่วงน้ ำหนักเพื่อทำให้ค่ำควำม
ผิดพลำดที่เอำต์พุตของมันลดลงให้เหลือน้อยที่สุด
 Unsupervised learning
วิธีในกำรสอน artificial neural networks โดยกำรป้อนอินพุตให้โครงข่ำย
ต่อเนื่องกันไป แล้วโครงข่ำยจะจัดระเบียบตัวเอง (self-organizing)
6
Machine-Learning Techniques
7
Machine-Learning Techniques
Machine-learning methods and algorithms
 Inductive learning
 Explanation-based learning
 Case-based reasoning
A machine learning approach that
assumes that there is enough
 Neural computing
existing theory to rationalize why
 Genetic algorithms
one instance is or is not a
 Natural language processing (NLP)
prototypical member of a class
 Cluster analysis
 Statistical methods
8
Case-Based Reasoning (CBR)
 Case-based reasoning (CBR)
กรรรมวิธีที่ซ่ ึ งองค์ควำมมรู ้และ/หรื อกำรอนุมำนได้มำจำกกรณี ที่เกิดขึ้นมำในอดีต
(historical cases)
 Analogical reasoning
กำรหำ outcome ของปัญหำโดยกำรใช้กำรเทียบเคียง เป็ นนแวทำงสำหรับหำ
ข้อสรุ ปของปั ญหำโดยกำรใช้ประสบกำรณ์ที่ผำ่ นมำ (past experience)
 Inductive learning
แนวทำงกำรเรี ยนรู ้ของเครื่ องจักรโดยกำรสรุ ปเป็ นกฎจำกกำรอำศัยควำมจริ ง
หรื อข้อมูล)
9
Case-Based Reasoning (CBR)

แนวควำมคิดพื้นฐำนและกระบวนกำรของ CBR
 มีสี่กระบวนกำร คือ
1. Retrieve (นำออกมำ)
2. Reuse (ปรับใช้)
3. Revise (แก้ไขให้เมำะสม)
4. Retain (เก็บ)
10
Case-Based Reasoning (CBR)
 นิยำมและแนวควำมคิดของ cases ใน CBR
 Ossified cases (harden cases)
Case ที่ถูกวิเครำะห์แล้วและไม่มี further value
 Paradigmatic cases
Case ที่มีลกั ษณะเป็ น unique ซึ่ งสำมำรถทำกำรก่อให้เกิดควำมรู ้ใหม่ข้ ึนมำใน
อนำคตได้
 Stories
Cases ที่มีสำรสนเทศและองค์ประกอบมำกมำย อำจก่อให้เกิดบทเรี ยนขึ้นมำจำก
case เหล่ำนี้
11
Case-Based Reasoning (CBR)
12
Case-Based Reasoning (CBR)
 ข้อดีของกำรใช้ CBR
 กำรรวบรวมควำมรู ้ได้รับกำรปรับปรุ ง
 กำรพัฒนำระบบทำได้เร็ วขึ้น
 องค์ควำมรู ้และข้อมูลถูกนำมำใช้งำนมำกขึ้น
 ไม่จำเป็ นต้องใช้ Complete formalized domain knowledge
 ผูช้ ำนำญรู ้สึกดีกว่ำในกำรถกแถลงในเรื่ องที่เป็ น concrete cases
 กำรอธิ บำยทำได้ง่ำยขึ้น
 กำรรวบรวม case ใหม่ ๆ ง่ำยขึ้น
 กำรเรี ยนรู ้เกิดขึ้นทั้งทำงด้ำนที่มีควำมสำเร็ จและล้มเหลว
13
Case-Based Reasoning (CBR)
14
Case-Based Reasoning (CBR)
 กำรใช้งำน เรื่ องที่เกี่ยวข้อง และกำรประยุกต์ใช้ของ CBR
 กำรประยุกต์ใช้
 CBR in electronic commerce
 WWW and information search
 Planning and control
 Design
 Reuse
 Diagnosis
 Reasoning
15
Case-Based Reasoning (CBR)
 เรื่ องเกี่ยวกับกำรประยุกต์ใช้สำหรับผูอ้ อกแบบ
 อะไรคือสิ่ งที่สร้ำง case หนึ่ง ๆ ขึ้นมำ? เรำจะใส case เข้ำไปใน
หน่วยควำมจำอย่ำงไร?
 กฏเกณฑ์กำรปรับตัวแบบอัตโนมัติ (automatic case-adaptation rules) จะ
เป็ นเรื่ องที่มีควำมซับซ้อนมำก
 จะจัดรู ปแบบหน่วยควำมจำอย่ำงไร? อะไรคือ indexing rules?
 คุณภำพของผลลัพธ์จะขึ้นกับ index ที่นำมำใช้เป็ นอย่ำงมำก
 ฟังก์ชนั ของหน่วยควำมจำจะเกี่ยวข้องกับกำรดึงสำรสนเทสออกไปใช้งำน
อย่ำงไร ?
 จะดำเนินกำรค้นหำ case อย่ำงมีประสิ ทธิ ภำพได้อย่ำงไร (เช่น knowledge
navigation)?
16
Case-Based Reasoning (CBR)
 เรำจะจัดระเบียบ case ทั้งหลำยได้อย่ำงไร?
 เรำจะออกแบบ distributed storage ของ case ทั้งหลำยได้อย่ำงไร?
 เรำจะปรับปรุ งคำตอบเดิม ๆ ที่มีอยูแ่ ล้วเข้ำกับปั ญหำใหม่ ๆ ได้อย่ำงไร?
เรำสำมำรถที่จะทำกำรปรับปรุ งหน่วยควำมจำง่ำย ๆ สำหรับ efficient
querying โดยขึ้นกับ context ได้หรื อไม่? อะไรคือตัววัดที่เหมือน ๆ กันและ
สำมำรถใช้ไปแก้ไข rule ต่ำง ๆ ได้?
 เรำจะสำมำรถ factor errors ออกจำก original cases ได้อย่ำงไร?
 เรำสำมำรถจะเรี ยนรู ้จำกควำมผิดพลำดของเรำได้อย่ำงไร? นัน่ คือเรำจะ
ซ่อมแซมและปรับปรุ ง case base ให้ทนั สมัยได้อย่ำงไร?
17
Case-Based Reasoning (CBR)
 Case base อำจต้องกำรขยำยออกในเชิงเกี่ยวข้องกับ model ในขอบเขตใด
ขอบเขตหนึ่ง ซึ่ งกำรวิเครำะห์ต่ำง ๆ ในขอบเขตนั้น ๆ เกิดควำมล่ำช้ำ
 เรำจะรวม CBR เข้ำกับ knowledge representations และ inferencing
mechanisms อื่น ๆ ได้อย่ำงไร?
 จะมีกรรมวิธีทำ pattern-matching ที่ดีกว่ำที่เรำใช้ในปั จจุบนั ได้อย่ำงไร?
 จะมี retrieval system อื่น ๆ อันเป็ นทำงเลือกที่ match กับ CBR schema
หรื อไม่?
18
Case-Based Reasoning (CBR)

แฟกเตอร์ที่ทำให้ CBR system ประสบควำมสำเร็ จ
1. ช่วยค้นหำเป้ำประสงค์ทำงธุรกิจที่เฉพำะเจำะจง
2. ช่วยให้เข้ำใจ end users และ customers
3. ทำกำรออกแบบระบบได้อย่ำงเหมำะสม
4. ช่วยวำงแผนกระบวนกำรจัดกำรควำมรู ้ที่กำลังเกิดขึ้น
5. ช่วยให้บรรลุ returns on investment (ROI) และตัววัดต่ำง ๆ
6. ช่วยวำงแผนและดำเนิ นกำร customer-access strategy
7. ขยำยกำรสร้ำงควำมรู ้และเข้ำถึงได้ทวั่ ทั้งองค์กร
19
Genetic Algorithm Fundamentals

Genetic algorithms (GAs)
โปรแกรมที่เรี ยนรู ้กำร
วิวฒั นำกำรในลักษณะ
เดียวกับแนวทำงวิวฒั นำกำร
ของสิ่ งมีชีวติ
20
Genetic Algorithm Fundamentals

Genetic algorithm process and terminology
 Chromosome
คำตอบที่คำดหวังที่จะได้จำก genetic algorithm
 Reproduction
กำรสร้ำงสำยพันธุ์ใหม่ (new generations) ซึ่ งเป็ นคำตอบที่ถูกปรับปรุ งโดยกำร
ใช้ genetic algorithm
21
Genetic Algorithm Fundamentals
 Crossover (การสลับสายพันธ์ )
กำรรวมส่ วนต่ำง ๆ ของ two superior solutions โดยใช้ genetic algorithm เพื่อ
สร้ำงคำตอบที่ดีกว่ำเดิม
22
 Mutation (การกลายพันธุ์)
กำรดำเนินกำรทำงพันธุกรรมที่ก่อให้เกิด random change ใน potential
solution
23
Genetic Algorithm
Fundamentals
24
Genetic Algorithm Fundamentals
25
Genetic Algorithm Fundamentals
 ตัวแปรที่ตอ้ งกำหนดให้กบั genetic algorithm
 Number of initial solutions to generate
 Number of offspring to generate
 Number of parents and offspring to keep for the next generation
 Mutation probability (very low)
 Probability distribution of crossover point occurrence
26
Genetic Algorithm Fundamentals
 ข้อจำกัดของ genetic algorithms
 ไม่ใช่ทุก ๆ ปั ญหำจะสำมำรถกำหนดออกมำโดยใช้คณิ ตศำสตร์ ตำมที่
genetic algorithms ต้องกำรได้
 กำรพัฒนำ genetic algorithm และ กำรตีควำมผลลัพธ์ที่ได้ ต้องกำร
ผูช้ ำนำญกำรซึ่ งเป็ นทั้งกำรเขียนโปรแกรมและมีทกั ษะทำงด้ำนสถิติ/
คณิ ตศำสตร์ตรงตำมที่ genetic algorithm technology ต้องกำรใช้
 ในบำงสถำนกำรณ์ “genes” จำก few comparatively highly fit (but not
optimal) individuals may come to dominate the population, ทำให้มนั เกิด
กำร converge ไปสู่ local maximum
27
Genetic Algorithm Fundamentals
 genetic algorithms ทั้งหมดจะขึ้นกับ random number generators ที่สร้ำง
ผลลัพธ์ที่แตกต่ำงกันออกไปในแต่ละครั้งที่รัน model
 กำรกำหนดตัวแปรที่ดีซ่ ึ งใช้งำนได้เหมำะสมกับปั ญหำที่เฉพำะเจำะจงเป็ น
เรื่ องที่ยงุ่ ยำก
 กำรเลือกกรรมวิธีซ่ ึ งก่อให้เกิดกำรวิวฒั นำกำร ระบบต้องผ่ำนกำรคิดและ
ทำกำรประเมินอย่ำงรอบคอบ
28
Developing Genetic Algorithm Applications
Applications of GAs include:
 Dynamic process control
 Induction of optimization of rules
 Discovery of new connectivity
topologies (e.g., neural computing
connections, i.e., neural network
design)
 Simulation of biological models of
behavior and evolution
 Complex design of engineering
structures
 Pattern recognition
 Scheduling
 Transportation and routing
 Layout and circuit design
 Telecommunication
 Graph-based problems
29
Fuzzy Logic Fundamentals
 Fuzzy logic
แนวทำงควำมเป็ นเหตุเป็ นผลที่สอดคล้องกันทำงตรรกะที่สำมำรถรับมือกับ
สำรสนเทศที่ไม่แน่นอนหรื อแยกเป็ นส่ วน ๆ; คุณลักษณะกำรคิดของมนุษย์และ –
ของ expert system หลำย ๆ ระบบ
 Fuzzy sets
แนวทำงกำรใช้ทฤษฏีเซ็ตในกำรกำหนดว่ำกลุ่มของสมำชิกใดมีควำมพอดีนอ้ ยกว่ำ
กำรมีวตั ถุประสงค์ที่ชดั แจ้งภำยในหรื อภำยนอกกลุ่ม
30
Fuzzy Logic Fundamentals
31
Fuzzy Logic Fundamentals
 กำรประยุกต์ใช้ Fuzzy logic ในกำรผลิตและกำรจัดกำร
 กำรเลือกซื้ อหุ น้ (เช่น Japanese Nikkei stock exchange)
 กำรดึงข้อมูลมำใช้ (เพรำะว่ำ fuzzy logic สำมำรถค้นหำข้อมูลได้เร็ ว)
 กำรตรวจสอบกระป๋ องเบียร์ เพื่อดูขอ้ บกพร่ องในกำรพิมพ์
 กำรจับคู่ไม้ตีกอล์ฟกับวงสวิงของลูกค้ำ
 กำรประเมินควำมเสี่ ยง
 กำรควบคุมปริ มำณของออกซิ เจนในเตำเผำซี เมนต์
 กำรเพิ่มควำมแม่นยำและควำมเร็ วในกำรประยุกต์ทำงด้ำนควบคุมคุณภำพใน
โรงงำนอุตสำหกรรม
 กำรเรี ยงปัญหำ (Sorting problems) ใน multidimensional spaces
32
Fuzzy Logic Fundamentals








ทำให้ตวั แบบต่ำง ๆ ที่เกียวกับกำรเข้ำคิวดีข้ ึน (เช่น แถวคอย (waiting lines))
ประยุกต์ใช้กบั กำรสนับสนุนกำรตัดสิ นใจทำงด้ำนบริ หำร
กำรเลือกโครงกำร (Project selection)
กำรควบคุมสภำพแวดล้อมในอำคำร
กำรควบคุมกำรเคลื่อนที่ของรถไฟ
กำรผลิตแผ่นกระดำษโดยอัตโนมัติ
วงโคจรของกระสวยอวกำศ
กำรควบคุมอุณหภูมิของที่หวั ฝักบัว
33
Natural Language Processing (NLP)
 การประมวลผลโดยใช้ ภาษาธรรมชาติ (Natural language processing (NLP))
กำรใช้ตวั ประมวลผลภำษำธรรมชำติเพื่อเชื่อมต่อกับระบบที่ใช้คอมพิวเตอร์เป็ น
ฐำน
 NLP มีสองประเภท คือ
 กำรเข้ำใจภำษำธรรมชำติ (Natural language understanding)
 กำรสร้ำงภำษำธรรมชำติ (Natural language generation)
34
Natural Language Processing (NLP)
 ปัญหำบำงประกำรที่ทำให้ NLP มีควำมยุง่ ยำก
 กำรตรวจจับขอบเขตของคำ
 นัยของคำมีควำมกำกวม
 กำรสังเครำะห์มีควำมคลุมเครื อ
 อินพุตไม่สมบูรณ์ หรื อ อยูน่ อกกฏเกณฑ์
 จังหวะคำพูดและแบบแผนกำรพูด
35
Natural Language Processing (NLP)
 เทคโนโลยีของ NLP ในปัจจุบนั
 กำรค้นหำและกำรดึงสำรสนเทศมำใช้งำน
 คนป้อนข้อควำม คำ หรื อ ประโยคหนึ่งเข้ำไปค้นหำในอินเตอร์เน็ตหรื อ
ฐำนข้อมูล แล้วมีกำรใช้ NLP สร้ำงคำตอบโต้ที่เป็ นไปได้ข้ ึนมำ
36
Natural Language Processing (NLP)
 กำรประยุกต์ใช้ NLP
 กำรเชื่อมต่อระหว่ำง มนุษย์กบั คอมพิวเตอร์
 Abstracting and summarizing text
 กำรวิเครำะห์หลักภำษำ (Analyzing grammar)
 กำรเข้ำใจคำพูด (Understanding speech)
 เป็ นส่ วนหน้ำของ software package อื่น ๆ เช่น กำร query ฐำนข้อมูลซึ่ ง
ยอมให้ผใู ้ ช้ใช้ applications programs ด้วยภำษำที่ใช้ทุก ๆ วัน
 Text mining
 FAQs และ query answering
37
Natural Language Processing (NLP)

เครื่ องแปลภำษำ (Machine translation)
 ทำกำรแปลเนื้อหำจำกภำษำหนึ่ งไปเป็ นอีกภำษำหนึ่ ง
 หลักเกณฑ์ที่ใช้ประเมิน machine translation
1. ควำมฉลำด (Intelligibility)
2. ควำมถูกต้อง (Accuracy)
3. ควำมเร็ ว (Speed)
38
Voice Technologies
 เทคโนโลยีของเสี ยงสำมำรถแบ่งได้เป็ นสำมแบบกว้ำง ๆ คือ:
 กำรรู ้จำเสี ยง (หรื อคำพูด) (Voice (or speech) recognition)
 กำรเข้ำใจเสี ยง (หรื อคำพูด) (Voice (or speech) understanding)
 Text-to-voice (หรื อ กำรสังเครำะห์เสี ยง (or voice synthesis))
39
Voice Technologies
 Voice (speech) recognition
กำรแปลเสี ยงมนุษย์ไปเป็ นคำ ๆ และประโยคซึ่ งคอมพิวเตอร์เข้ำใจได้
 Speech understanding
ด้ำนหนึ่งของกำรวิจยั ที่เกี่ยวข้องกับ AI เจตนำก็เพื่อให้คอมพิวเตอร์รู้จำคำหรื อ
ข้อควำมอันเป็ นคำพูดของมนุษย์
40
Voice Technologies

ข้อได้เปรี ยบของ voice technologies
1. ง่ำยต่อกำรเข้ำถึง (Ease of access)
2. มีควำมเร็ ว
3. ไม่ตอ้ งใช้มือป้อนข้อมูล (Manual freedom)
4. Remote access
5. มีควำมแม่นยำ
6. สื่ อสำรได้แม้ขณะขับรถ
7. ทำกำรเลือกได้อย่ำงรวดเร็ ว (Quick selection)
8. มีควำมปลอดภัย (Security)
9. ได้ประโยชน์ทำงด้ำนต้นทุน (Cost benefit)
41
Voice Technologies
 ข้อจำกัดของ speech recognition และ speech understanding
 ไม่สำมำรถรู ้จำประโยคยำว ๆ หรื อ ใช้เวลำยำวนำนเกินไปกว่ำจะพูดจบ
จึงได้ใจควำมหรื อเข้ำใจ
 ต้นทุนสู ง
 คำพูดที่ใช้อำจต้องใช้ร่วมกับแป้นพิมพ์ ก่อให้เกิดควำมล่ำช้ำในกำร
สื่ อสำร
42
Voice Technologies
 Voice synthesis
เทคโนโลยีที่คอมพิวเตอร์เปลี่ยนข้อควำมให้เป็ นเสี ยงพูด (text-to-speech)
 ระบบ text-to-speech ประกอบไปด้วยสองส่ วนคือ:
 ส่ วนหน้ำที่รับอินพุตในรู ปแบบของตัวอักษรแล้วเปลี่ยนเป็ นเอำต์พุตใน
รู ปแบบ symbolic linguistic representation
 ส่ วนหลังที่รับ symbolic linguistic representation เข้ำมำแล้วเปลี่ยนให้
เป็ นเอำต์พตุ ในรู ปแบบรู ปคลื่นเสี ยงที่สังเครำะห์ข้ ึนมำ
43
Voice Technologies
 Voice technology applications
 Call center
 Contact of customer care center
 Computer/telephone integration (CTI)
 Interactive voice response (IVR)
 Voice portal
 Voice over IP (VoIP)
44
Voice Technologies
 Voice portals
Web sites, usually portals, with audio interfaces
45
Developing Integrated Advanced Systems
 Fuzzy neural networks
 Fuzzification
A process that converts an accurate number into a fuzzy description, such as
converting from an exact age into young or old
 Defuzzification
Creating a crisp solution from a fuzzy logic solution
46
Developing Integrated Advanced Systems
47
Developing Integrated Advanced Systems
48
Developing Integrated Advanced Systems
 Genetic algorithms and neural networks
 The genetic learning method can perform rule discovery in large databases,
with the rules fed into a conventional ES or some other intelligent system
 To integrate genetic algorithms with neural network models use a genetic
algorithm to search for potential weights associated with network
connections
 A good genetic learning method can significantly reduce the time and effort
needed to find the optimal neural network model
49
จบหัวข้อ 13
 คำถำม ………..
50