Luận án Hệ tư vấn dựa trên phân tích hàm ý thống kê

LỜI CAM ĐOAN .i

MỤC LỤC.ii

DANH MỤC THUẬT NGỮ VÀ TỪ VIẾT TẮT .vi

DANH MỤC CÁC BẢNG. viii

DANH MỤC CÁC HÌNH.x

MỞ ĐẦU.1

1. Tính cấp thiết của luận án .1

2. Mục tiêu, phƣơng pháp, đối tƣợng và phạm vi nghiên cứu của luận án.3

3. Các đóng góp của luận án .4

4. Bố cục của luận án .5

CHƢƠNG 1. TỔNG QUAN.9

1.1. Phân tích hàm ý thống kê.9

1.2. Khuynh hƣớng biến thiên hàm ý thống kê.11

1.3. Mô hình tƣ vấn .13

1.3.1. Các khái niệm cơ bản .13

1.3.2. Mô hình tƣ vấn dựa trên lọc nội dung .14

1.3.2.1. Bài toán tƣ vấn lọc nội dung .14

1.3.2.2. Các nhƣợc điểm của mô hình tƣ vấn dựa trên lọc nội dung.16

1.3.3. Mô hình tƣ vấn dựa trên lọc cộng tác.17

1.3.3.1. Bài toán tƣ vấn dựa trên lọc cộng tác.18

1.3.3.2. Lọc cộng tác dựa trên bộ nhớ .18

1.3.3.3. Lọc cộng tác dựa trên mô hình.20

1.3.3.4. Các nhƣợc điểm của mô hình tƣ vấn lọc cộng tác .20

1.3.4. Mô hình tƣ vấn dựa trên các đặc tính nhân khẩu học.21

1.3.5. Mô hình tƣ vấn dựa trên tri thức .22

1.3.6. Mô hình tƣ vấn dựa trên luật kết hợp .24

1.3.7. Mô hình tƣ vấn dựa trên phân tích hàm ý thống kê .25iii

1.3.8. Mô hình tƣ vấn tích hợp .26

1.4. Đánh giá mô hình tƣ vấn.27

1.4.1. Phƣơng pháp xây dựng dữ liệu đánh giá.28

1.4.2. Phƣơng pháp đánh giá mô hình tƣ vấn.29

1.4.2.1. Đánh giá dựa trên giá trị xếp hạng dự đoán .29

1.4.2.2. Đánh giá dựa trên kết quả tƣ vấn .29

1.5. Ứng dụng của mô hình tƣ vấn.30

1.6. Hƣớng phát triển của mô hình tƣ vấn .31

1.7. Kết luận chƣơng 1 .32

CHƢƠNG 2. PHÂN LỚP ĐỘ ĐO HẤP DẪN KHÁCH QUAN THEO THAM SỐ

HÀM Ý THỐNG KÊ .34

2.1. Độ đo hấp dẫn khách quan.34

2.2. Phân lớp độ đo hấp dẫn khách quan.36

2.2.1. Phân lớp độ đo dựa trên khảo sát các thuộc tính.36

2.2.2. Phân lớp độ đo dựa trên khảo sát các hành vi .37

2.3. Phân lớp độ đo hấp dẫn khách quan theo tham số hàm ý thống kê .37

2.3.1. Quy tắc xác định giá trị biến thiên của độ đo dựa trên đạo hàm riêng.38

2.3.2. Quy tắc phân lớp độ đo dựa trên thuộc tính biến thiên .40

2.4. Kết quả phân lớp các độ đo hấp dẫn khách quan bất đối xứng.41

2.4.1. Kết quả phân lớp các độ đo dựa trên đạo hàm riêng theo n .43

2.4.2. Kết quả phân lớp các độ đo dựa trên đạo hàm riêng theo n .45

2.4.3. Kết quả phân lớp các độ đo dựa trên đạo hàm riêng theo n .47

2.4.4. Kết quả phân lớp các độ đo dựa trên đạo hàm riêng theo n .48

2.5. So sánh và đánh giá kết quả phân lớp theo tham số hàm ý thống kê.51

2.6. Kết luận chƣơng 2 .52

CHƢƠNG 3. MÔ HÌNH TƢ VẤN DỰA TRÊN CHỈ SỐ HÀM Ý THỐNG KÊ.53

3.1. Luật kết hợp dựa trên thuộc tính quyết định .53

3.1.1. Định nghĩa luật kết hợp dựa trên thuộc tính quyết định.53

3.1.2. Thuật toán sinh luật kết hợp dựa trên thuộc tính quyết định.54iv

3.2. Tham số hàm ý thống kê của luật kết hợp .56

3.2.1. Tham số hàm ý thống kê .56

3.2.2. Tham số hàm ý thống kê dựa trên ma trận nhị phân .57

3.2.2.1. Chuyển tập dữ liệu giao dịch sang ma trận thƣa nhị phân.57

3.2.2.2. Chuyển tập luật kết hợp sang ma trận thƣa nhị phân .58

3.2.2.3. Xác định giá trị cho các tham hàm ý thống kê của từng luật kết hợp59

3.3. Tính giá trị chỉ số hàm ý thống kê và giá trị đạo hàm riêng dựa trên các tham số

hàm ý thống kê .61

3.4. Mô hình tƣ vấn dựa trên chỉ số hàm ý thống kê.61

3.4.1. Định nghĩa mô hình tƣ vấn dựa trên chỉ số hàm ý thống kê .61

3.4.2. Thuật toán tƣ vấn dựa trên chỉ số hàm ý thống kê .63

3.5. Thực nghiệm .64

3.5.1. Dữ liệu thực nghiệm.64

3.5.2. Đánh giá độ chính xác của mô hình trên tập dữ liệu chuẩn .67

3.5.3. Đánh giá độ chính xác của mô hình trên tập dữ liệu thực.68

3.6. Kết luận chƣơng 3 .72

CHƢƠNG 4. MÔ HÌNH TƢ VẤN LỌC CỘNG TÁC DỰA TRÊN CƢỜNG ĐỘ HÀM

Ý THỐNG KÊ.73

4.1. Luật kết hợp dựa trên cƣờng độ hàm ý thống kê .73

4.1.1. Định nghĩa luật kết hợp dựa trên cƣờng độ hàm ý thống kê.73

4.1.2. Thuật toán sinh luật kết hợp dựa trên cƣờng độ hàm ý thống kê.74

4.2. Mô hình tƣ vấn lọc cộng tác dựa trên cƣờng độ hàm ý thống kê .76

4.2.1. Định nghĩa mô hình tƣ vấn dựa trên cƣờng độ hàm ý thống kê.76

4.2.2. Thuật toán tƣ vấn dựa trên cƣờng độ hàm ý thống kê.78

4.2.3. Đánh giá độ chính xác của mô hình .79

4.3. Thực nghiệm .81

4.3.1. Dữ liệu thực nghiệm.81

4.3.2. So sánh độ chính xác của mô hình trên dữ liệu xếp hạng dạng nhị phân

và dữ liệu xếp hạng dạng số thực .81v

4.3.3. Độ chính xác của mô hình so với các mô hình tƣ vấn lọc cộng tác khác82

4.4. Kết luận chƣơng 4 .84

CHƢƠNG 5. MÔ HÌNH TƢ VẤN LỌC CỘNG TÁC DỰA TRÊN TƢƠNG

ĐỒNG HÀM Ý THỐNG KÊ.85

5.1. Độ đo tƣơng đồng dựa trên cƣờng độ hàm ý thống kê .85

5.1.1. Độ đo tƣơng đồng hàm ý thống kê giữa hai ngƣời dùng .86

5.1.2. Thuật toán đo độ tƣơng đồng hàm ý thống kê giữa hai ngƣời dùng .86

5.1.3. Tính chất của độ đo tƣơng đồng hàm ý thống kê giữa hai ngƣời dùng .87

5.2. Mô hình tƣ vấn lọc cộng tác dựa trên tƣơng đồng hàm ý thống kê .89

5.2.1. Định nghĩa mô hình tƣ vấn dựa trên tƣơng đồng hàm ý thống kê .89

5.2.2. Thuật toán tƣ vấn lọc cộng tác dựa trên tƣơng đồng hàm ý thống kê.90

5.3. Thực nghiệm .92

5.3.1. Dữ liệu thực nghiệm.92

5.3.2. Đánh giá mô hình trên dữ liệu xếp hạng dạng số thực.92

5.3.2.1. Đánh giá mô hình dựa trên kết quả xếp hạng .93

5.3.2.2. Đánh giá mô hình dựa trên kết quả tƣ vấn.94

5.3.3. Đánh giá mô hình trên dữ liệu xếp hạng dạng nhị phân .94

5.4. Kết luận chƣơng 5 .97

KẾT LUẬN VÀ HƢỚNG PHÁT TRIỂN .98

DANH MỤC CÁC CÔNG TRÌNH KHOA HỌC ĐÃ CÔNG BỐ

TÀI LIỆU THAM KHẢO

PHỤ LỤC

pdf141 trang | Chia sẻ: trungkhoi17 | Lượt xem: 333 | Lượt tải: 0download
Bạn đang xem trước 20 trang tài liệu Luận án Hệ tư vấn dựa trên phân tích hàm ý thống kê, để xem tài liệu hoàn chỉnh bạn click vào nút DOWNLOAD ở trên
erage, Leverage 1 Mutual Information MI, 2-way Support Variation Specificity 1, Negative Reliability Zhang Zhang Directed Information ratio (DIR) MGK, Ion 44 Từ kết quả Bảng 2.2 cho thấy, lớp các độ đo hấp dẫn khách quan biến thiên tăng theo tham số n chiếm hơn 50% số lƣợng các độ đo đƣợc khảo sát. Kết quả này cho thấy giá trị hấp dẫn của các độ đo phụ thuộc vào kích thƣớc của tập dữ liệu dùng để khảo sát. Điều này có nghĩa là tỷ lệ biến thiên của các độ đo thuộc lớp này phụ thuộc vào tỷ lệ biến thiên của tham số n. Ngƣợc lại, lớp các độ đo có khuynh hƣớng biến thiên giảm theo tham số n chiếm số lƣợng khá nhỏ. Nó bao gồm các độ đo: Coverage, Descriptive-Confirm, Gain, Fukuda, Implication index, Prevalence, Putative Causal Dependency, K-measures. Lớp các độ đo không phụ thuộc vào tham số n là một lớp đặc biệt bởi hầu hết các độ đo thuộc lớp này là các độ đo thỏa tính chất mô tả (descriptive). Nó bao gồm các độ đo: Confidence, Descriptive, Confirmed-Confidence, Ganascia Index, Examples and counter-examples rate, IPEE, Kulczynski index, Laplace, Least contradiction, Recall, Completeness, Sebag and Schoenauer. Nếu một độ đo thỏa tính chất mô tả thì giá trị hấp dẫn của nó sẽ không phụ thuộc vào tham số n hay nói cách khác là giá trị hấp dẫn của độ đo này không phụ thuộc vào kích thƣớc của tập dữ liệu dùng để khảo sát. Điều này cho thấy kết quả phân lớp các độ đo dựa trên tham số hàm ý thống kê có sự tƣơng đồng về kết quả với phƣơng pháp phân lớp các độ đo dựa trên các thuộc tính. Cuối cùng, hai độ đo Directed Information ratio (DIR) và MGK là lớp các độ đo có giá trị hấp dẫn biến thiên phụ thuộc vào giá trị cụ thể của tham số n. Hình 2.2.5So sánh sự biến thiên của độ đo Implication index và độ đo Implication intensity theo tham số n ̅ 45 Hình 2.2 biểu diễn sự biến thiên giảm của độ đo Implication index và sự biến thiên tăng của độ đo Implication intensity. Đây là hai độ đo đại diện cho lớp các độ đo có sự biến thiên theo tham số n. 2.4.2. Kết quả phân lớp các độ đo dựa trên đạo hàm riêng theo Dựa trên dữ liệu khảo sát giá trị đạo hàm riêng theo tham , các độ đo đƣợc phân lớp theo các quy tắc đã trình bày trong phần 2.3.2. Kết quả phân lớp các độ đo theo tham số đƣợc trình bày trong Bảng 2.3. Bảng 2.3.4Kết quả phân lớp các độ đo dựa trên đạo hàm riêng theo Giảm Độc lập Tăng Khác Implication index Probabilistic measures of deviation from equilibrium (IPEE), Indice Probabiliste d’Ecart d’Equilibre Leverage, Leverage 1 Prevalence 1-way Support Added value, Pavillon, Centred Confidence, Dependency Bayes factor, Odd multiplier Causal-Confidence Causal-Confirmed confidence Loevinger, Certainty Factor, Satisfaction Confidence Causal Confirm Conviction Coverage Descriptive Confirmed-Confidence, Ganascia Index Descriptive-Confirm Entropic Implication Intensity 1 Entropic Implication Intensity 2 Examples and counter-examples rate Gain, Fukuda Gini index Goodman–Kruskal Implication Intensity MGK, Ion J-measures Klosgen K-measures Kulczynski index Laplace Least contradiction Mutual Information MI, 2-way Support Variation Putative Causal Dependency Recall, Completeness Sebag and Schoenauer Specificity 1, Negative Reliability Zhang Zhang Relative Risk , Class correlation ratio Collective strength Directed Information ratio (DIR) 46 Từ kết quả phân lớp trong Bảng 2.3 cho thấy lớp các độ đo hấp dẫn khách quan bất đối xứng biến thiên tăng theo tham số chiếm tỷ lệ rất cao trong tổng số các độ đo đƣợc khảo sát (31/39). Điều này có thể thấy rằng giá trị hấp dẫn của các độ đo dựa trên luật kết hợp phụ thuộc vào số phần tử thỏa vế trái của luật kết hợp ( ). Khi tham số tăng thì giá trị hấp dẫn của các độ đo thuộc lớp này tăng. Trong đó, nhóm các độ đo có nguồn gốc từ độ đo Confidence đều thuộc lớp các độ đo tăng theo tham số . Điều này phù hợp với nguyên tắc xác định độ tin cậy của một luật kết . Ngƣợc lại, lớp các độ đo biến thiên giảm theo tham số chiếm tỷ lệ rất nhỏ (3/39). Nó bao gồm ba độ đo thỏa tính chất thống kê: Implication index, IPEE, Leverage. Các độ đo Relative Risk, Collective strength, Directed Information ratio (DIR) thuộc lớp các độ đo có sự biến thiên phụ thuộc vào giá trị cụ thể của tham số . Khi giá trị của tham số tăng thì giá trị hấp dẫn của các độ đo này thể hiện ở ba trạng thái khác nhau: biến thiên tăng, ổn định và biến thiên giảm. Lớp cuối cùng chỉ chứa duy nhất một độ đo là Prevalence. Độ đo này hoàn toàn độc lập với tham số . Hình 2.3.6Biểu diễn sự biến thiên giảm của độ đo Implication index theo tham số ̅ 47 Độ đo Implication index là một độ đo biến thiên giảm theo tham số . Sự biến thiên giảm của độ đo này đƣợc biểu diễn trong Hình 2.3. Đây là độ đo đại diện cho lớp các độ đo có khuynh hƣớng biến thiên giảm theo tham số . 2.4.3. Kết quả phân lớp các độ đo dựa trên đạo hàm riêng theo Dựa trên dữ liệu khảo sát giá trị đạo hàm riêng theo tham , các độ đo đƣợc phân lớp theo các quy tắc đã trình bày trong phần 2.3.2. Kết quả phân lớp các độ đo theo tham số đƣợc trình bày trong Bảng 2.4. Bảng 2.4.5Kết quả phân lớp các độ đo dựa trên đạo hàm riêng theo Giảm Độc lập Tăng Khác 1-way Support Added value, Pavillon, Centred Confidence, Dependency Bayes factor, Odd multiplier Causal-Confidence Causal-Confirmed confidence Loevinger, Certainty Factor, Satisfaction Relative Risk , Class correlation ratio Collective strength Causal Confirm Conviction Entropic Implication Intensity 1 Entropic Implication Intensity 2 Gini index Goodman–Kruskal Implication Intensity J-measures Klosgen Kulczynski index Least contradiction Leverage, Leverage 1 Mutual Information MI, 2-way Support Variation Putative Causal Dependency Recall, Completeness Specificity 1, Negative Reliability Zhang Zhang Confidence Coverage Descriptive Confirmed- Confidence , Ganascia Index Descriptive-Confirm Examples and counter- examples rate Gain, Fukuda Probabilistic measures of deviation from equilibrium (IPEE), Indice Probabiliste d’Ecart d’Equilibre Laplace Sebag and Schoenauer Implication index K-measures Prevalence Directed Information ratio (DIR) MGK, Ion Từ kết quả phân lớp trong Bảng 2.4 cho thấy lớp các độ đo hấp dẫn khách quan biến thiên giảm theo tham số chiếm tỷ lệ khá lớn trong tổng số các độ đo đƣợc khảo sát (24/39). Kết quả này hoàn toàn phù hợp với các quy tắc dùng để xác 48 định giá trị hấp dẫn của luật kết hợp do các độ đo đƣợc khảo sát là các độ đo thỏa tính chất bất đối xứng. Khi giá trị của tham số tăng thì giá trị hấp dẫn của các độ đo này có khuynh hƣớng giảm. Tƣơng tƣ nhƣ trƣờng hợp phân lớp dựa trên đạo hàm riêng theo tham số n, các độ đo thỏa tính chất mô tả nhƣ Confidence, Coverage, Descriptive Confirmed-Confidence, Descriptive-Confirm, Examples and counter-examples rate, Gain, IPEE, Laplace, Sebag and Schoenauer đƣợc xếp vào lớp các độ đo độc lập với tham số . Lớp các độ đo biến thiên tăng theo tham số gồm hai độ đo: Implication index, K-measures và Prevalence. Ba độ đo này có khuynh hƣớng tăng khi số phần tử thỏa vế phải của luật kết hợp tăng ( ). Kết quả này phản ánh chính xác ý nghĩa thống kê của ba độ đo này. Cuối cùng, lớp các độ đo có sự biến thiên phụ thuộc vào giá trị cụ thể của tham số gồm hai độ đo Directed Information ratio (DIR) và MGK. Kết quả này hoàn toàn giống với kết quả phân lớp với tham số n đã thực hiện ở phần trên. Hình 2.4.7Biểu diễn sự độc lập của độ đo Laplace theo tham số ̅ Độ đo Laplace là một độ đo độc lập với tham số . Sự độc lập với giá trị tham số của độ đo này đƣợc biểu diễn trong Hình 2.4. Đây là một độ đo đại diện cho lớp các độ đo độc lập theo tham số . 2.4.4. Kết quả phân lớp các độ đo dựa trên đạo hàm riêng theo Dựa trên dữ liệu khảo sát giá trị đạo hàm riêng theo tham ̅, các độ đo đƣợc phân lớp theo các quy tắc đã trình bày trong phần 2.3.2. Kết quả phân lớp các độ đo theo tham số ̅ đƣợc trình bày trong Bảng 2.5. 49 Bảng 2.5.6Kết quả phân lớp các độ đo dựa trên đạo hàm riêng theo Giảm Độc lập Tăng Khác 1-way Support Added value, Pavillon, Centred Confidence, Dependency Bayes factor, Odd multiplier Causal-Confidence Causal-Confirmed confidence Loevinger, Certainty Factor, Satisfaction Relative Risk , Class correlation ratio Collective strength Confidence Causal Confirm Conviction Descriptive Confirmed-Confidence , Ganascia Index Descriptive-Confirm Entropic Implication Intensity 1 Entropic Implication Intensity 2 Examples and counter-examples rate Gain, Fukuda Implication Intensity MGK, Ion Klosgen K-measures Kulczynski index Laplace Least contradiction Leverage, Leverage 1 Putative Causal Dependency Recall, Completeness Sebag and Schoenauer Specificity 1, Negative Reliability Zhang Zhang Coverage Probabilistic measures of deviation from equilibrium (IPEE), Indice Probabiliste d’Ecart d’Equilibre Prevalence Implication index Directed Information ratio (DIR) Gini index Goodman–Kruskal J-measures Mutual Information MI, 2-way Support Variation Bảng 2.5 cho thấy lớp các độ đo hấp dẫn khách quan biến thiên giảm theo tham số ̅ chiếm tỷ lệ 71%. Điều này phản ánh đúng vai trò của tham số ̅ trong việc xác định giá trị hấp dẫn của luật kết hợp khi số lƣợng phản ví dụ càng tăng thì giá trị hấp dẫn của luật kết hợp càng giảm. Trong lớp này, có nhiều độ đo có nguồn gốc từ độ đo Confidence. Một độ đo rất phổ biến đƣợc dùng để xác định độ tin cập của luật kết hợp theo công thức: ̅ . Từ công thức 50 này ta thấy rằng tham số ̅ luôn tỷ lệ nghịch với độ tin cậy của luật kết hợp. Lớp các độ đo độc lập với tham số ̅ chiếm tỷ lệ khá nhỏ trong tổng số các độ đo đƣợc khảo sát. Nó bao gồm ba độ đo: Coverage, IPEE và Prevalence. Lớp các độ đo biến thiên tăng theo tham số ̅ chỉ có duy nhất một độ đo (implication index). Kết quả phân lớp này cho thấy tính đặc trƣng của độ đo Implication index so với các độ đo hấp dẫn khách quan khác trong việc xác định độ hấp dẫn của luật kết hợp. Thay vì quan tâm đến số lƣợng các ví dụ hỗ trợ việc hình thành của luật kết hợp, thì độ đo này quan tâm đến số lƣợng các phản ví dụ có khuynh hƣớng không hỗ trợ việc hình thành của luật kết hợp. Khi đó, một luật kết hợp sẽ bị bác bỏ nếu số lƣợng phản ví dụ vƣợt ngƣỡng cho phép. Lớp cuối cùng bao gồm 5 độ đo: Directed Information ratio (DIR), Gini index, Goodman–Kruskal, J-measures, Mutual Information MI. Trong đó, giá trị biến thiên của độ đo DIR phụ thuộc vào điều kiện ràng buộc của hai biểu thức ̅ và , các độ đo còn lại có giá trị biến thiên phụ thuộc vào giá trị cụ thể của tham số ̅. Hình 2.5.8Biểu diễn sự phụ thuộc giá trị của độ đo J-measures theo tham số ̅ ̅ Giá trị biến thiên của độ đo J-measures phụ thuộc giá trị chi tiết của tham số ̅. Giá trị biến thiên của độ đo này đƣợc biểu diễn trong Hình 2.5. Độ đo này đại 51 diện cho lớp các độ đo có giá trị biến thiên phụ thuộc vào giá trị cụ thể của tham số ̅. 2.5. So sánh và đánh giá kết quả phân lớp theo tham số hàm ý thống kê Từ kết quả phân lớp các độ đo hấp dẫn khách quan theo tham số hàm ý thống kê cho thấy có một số điểm tƣơng đồng so với kết quả phân lớp các độ đo dựa trên các thuộc tính [35]: - Lớp các độ đo độc lập với tham số n theo phƣơng pháp phân lớp theo tham số hàm ý thống kê đƣợc xếp vào lớp các độ đo thỏa tính chất mô tả (descriptive) theo phƣơng pháp phân lớp dựa trên thuộc tính của độ đo. Điều này chứng minh rằng kết quả phân lớp các độ đo theo tham số hàm ý thống kê có kết quả đáng tin cậy. - Phần lớn các độ đo thỏa tính chất bất đối xứng đều tăng theo tham số và giảm theo tham số khi tính giá trị dựa trên luật kết hợp. Điều này có thể thấy rằng giá trị hấp dẫn của các độ đo dựa trên luật kết hợp tăng theo số phần tử thỏa vế trái của luật kết hợp ( ) và giảm theo số phần tử thỏa vế phải của luật kết hợp ( ). - Lớp các độ đo thỏa tính chất thống kê (statistical) luôn biến thiên tăng hoặc giảm với các tham số hàm ý thống kê. Ví dụ, trong phân lớp dựa trên tham số hàm ý thống kê, độ đo chỉ số hàm ý thống kê và cƣờng độ hàm ý thống kê biến thiên theo tham số ̅, trong phân lớp dựa trên thuộc tính thì hai độ đo này thuộc lớp các độ đo thỏa tính chất thống kê. Dựa trên kết quả phân lớp, luận án đề xuất một số hƣớng sử dụng kết quả phân lớp độ đo cho các mô hình tƣ vấn nhƣ sau: - Các độ đo độc lập với tham số n có thể ứng dụng tốt trong các hệ thống có tổng số ngƣời dùng không ổn định. Khi đó, việc xác định giá trị hấp dẫn của luật kết hợp trong hệ thống chỉ quan tâm đến ba tham số ̅ - Các độ đo bất đối xứng biến thiên tăng theo tham số và biến thiên giảm theo tham số có thể ứng dụng tốt trong các mô hình tƣ vấn dựa trên luật kết hợp do phần lớn các độ đo thuộc nhóm này là các độ đo dành cho luật kết hợp. 52 - Trong kết quả phân lớp với tham số ̅ , độ đo chỉ số hàm ý thống kê (implication index) và độ đo cƣờng độ hàm ý thống kê (implication intensity) có khuynh hƣớng biến thiên trái ngƣợc nhau khi số lƣợng phản ví dụ tăng lên (tham số ̅ ). Kết quả trên cho thấy một điểm đặc biệt của hai độ đo đƣợc đề xuất từ phƣơng pháp phân tích hàm ý thống kê trong việc xác định giá trị hấp dẫn của luật kết hợp trong các mô hình tƣ vấn. 2.6. Kết luận chƣơng 2 Trong chƣơng này, thông qua việc khảo sát giá trị đạo hàm riêng của hàm tính giá trị hấp dẫn của độ đo theo các tham số hàm ý thống kê, luận án đề xuất phƣơng pháp phân lớp các độ đo hấp dẫn khách quan dựa trên tiếp cận bất đối xứng sử dụng các tham số hàm ý thống kê và triển khai phân lớp 39 độ đo hấp dẫn khách quan bất đối xứng. Kết quả phân lớp của 39 độ đo hấp dẫn khách quan bất đối xứng theo phƣơng pháp phân lớp độ đo do luận án đề xuất có nhiều điểm tƣơng đồng so với phƣơng pháp phân lớp các độ đo dựa trên thuộc tính. Từ kết quả này luận án đã đƣa ra định hƣớng sử dụng các độ đo trong các mô hình tƣ vấn cho phép lựa chọn độ đo hấp dẫn khách quan phù hợp khi biết đƣợc tính biến thiên tăng, giảm của từng độ đo theo các tham số hàm ý ‎thống kê. 53 CHƢƠNG 3. MÔ HÌNH TƢ VẤN DỰA TRÊN CHỈ SỐ HÀM Ý THỐNG KÊ Kết quả phân lớp các độ đo hấp dẫn khách quan bất đối xứng trong chƣơng 2 cho thấy độ đo chỉ số hàm ý thống kê là độ đo duy nhất có khuynh hƣớng biến thiên tăng theo tham số ̅ (số lƣợng phản ví dụ). Điều này phản ánh chỉ số hàm ý thống kê có ý nghĩa rất đặc biệt trong việc đánh giá chất lƣợng tri thức dƣới dạng luật kết hợp. Xuất phát từ nhận định trên, trong chƣơng này, luận án đề xuất mô hình tƣ vấn dựa trên tiếp cận bất đối xứng sử dụng luật kết hợp, độ đo chỉ số hàm ý thống kê và đạo hàm riêng theo các tham số hàm ý thống kê. Để khắc phục các nhƣợc điểm của mô hình tƣ vấn truyền thống, mô hình này đặc biệt quan tâm đến tỷ lệ hay mối quan hệ bất đối xứng giữa các thuộc tính điều kiện và các thuộc tính quyết định trên cùng một đối tƣợng ngƣời dùng. Từ giá trị hấp dẫn của độ đo chỉ số hàm ý thống kê và giá trị đạo hàm riêng theo các tham số hàm ý thống kê trên tập luật kết hợp đã chọn, mô hình đƣa ra kết quả tƣ vấn giúp ngƣời dùng lựa chọn giá trị cho các thuộc tính quyết định. Kết quả nghiên cứu của chƣơng này đƣợc công bố tại Hội nghị Quốc gia lần thứ VIII về Nghiên cứu cơ bản và ứng dụng Công nghệ Thông tin (FAIR’8) năm 2015 (1) và Hội thảo quốc gia lần thứ XVIII: Một số vấn đề chọn lọc của Công nghệ thông tin và truyền thông, chủ đề: xử lý dữ liệu lớn năm 2015 (2). 3.1. Luật kết hợp dựa trên thuộc tính quyết định 3.1.1. Định nghĩa luật kết hợp dựa trên thuộc tính quyết định Gọi { } là tập n ngƣời dùng, trong đó mỗi ngƣời dùng đƣợc lƣu trữ nhƣ một giao dịch, đƣợc xem là cơ sở dữ liệu giao dịch; { } là tập m thuộc tính của mỗi ngƣời dùng, trong đó { } là tập các thuộc tính điều kiện, { } là tập các thuộc tính quyết định. Một luật kết hợp dựa trên tập thuộc tính quyết định đƣợc sinh từ cơ sở dữ liệu giao dịch là một biểu thức hàm ý có dạng: 54 { | | | | | } 3.1.2. Thuật toán sinh luật kết hợp dựa trên thuộc tính quyết định Thuật toán sinh luật kết hợp dựa trên thuộc tính quyết định hoàn toàn dựa trên thuật toán sinh luật kết hợp Apriori [70], nhƣng chỉ quan tâm đến các luật kết hợp có vế phải chứa các thuộc tính quyết định. Thuật toán gồm 2 giai đoạn: Giai đoạn 1: Dựa trên ngƣỡng độ đo Support (min_sup) để tìm các tập thuộc tính phổ biến: Đầu tiên tìm tập 1 thuộc tính (ký hiệu ). đƣợc dùng để tìm tập 2 thuộc tính (ký hiệu ). đƣợc dùng để tìm tập 3 thuộc tính (k‎ý hiệu ) và tiếp tục cho đến khi không còn tìm thấy tập k thuộc tính (ký hiệu ). Giai đoạn 2: Dựa trên ngƣỡng độ đo Confidence (min_conf) để sinh ra các luật kết hợp mạnh có vế phải là thuộc tính quyết định cho mô hình tƣ vấn từ các tập thuộc tính phổ biến. Thuật toán sinh luật k t h p dựa trên thuộc tính quy t ịnh Input: Tập dữ li u giao dị n ời dùng . Output: Tập luật k t h p o mô ìn t vấn. Begin c 1: Duy t toàn bộ tập ể x ịnh support của mỗi ứng viên trong tập 1 thuộc tính, so sánh v m n_sup ể ó c tập 1 thuộc tính ( ). c 2: Sử dụng n i (join) ể sinh ra phần tử ứng viên của tập thuộc tính. Loại bỏ các tập không ph i là tập ph bi n t t u c tập thuộc tính. c 3: Duy t toàn bộ tập ể x ịnh Support của mỗi ứng viên trong tập thuộc tính, so sánh v m n_sup ể t u c tập k thuộc tính ph bi n ( ). c 4: Lặp lại từ o n khi tập ứng viên sinh ra là rỗng. c 5: V i mỗi tập ph bi n , sinh các tập con không rỗng của . c 6: V i mỗi tập con không rỗng của , sinh ra các luật: { | { } on n m n_ on } End. Ví dụ 3.1. Giả sử ta có tập dữ liệu dùng để phân nhóm thí sinh gồm 3 thuộc tính: { }; tập thuộc tính điều kiện { }; tập thuộc tính quyết 55 định { } ; trong đó, { }; { }; { } đƣợc trình bày trong Bảng 3.1. Bảng 3.1.7Tập dữ liệu phân nhóm thí sinh 2 1.0 A 1 1.5 A 1 1.5 A 1 1.5 A 3 0.5 B 2 1.0 A 3 0.5 B 3 0.5 B 2 1.0 A 2 1.0 A Áp dụng thuật toán sinh luật kết hợp dựa thuộc tính quyết định với MinSupp = 0.01 và MinConf = 0.5 gồm các bƣớc sau: Tìm tập phổ biến 1 phần tử: Duyệt tập dữ liệu để tính Support cho tập 1 phần tử và so sánh với MinSupp để xác định tập phổ biến 1 phần tử. Kết quả đƣợc trình bày trong Bảng 3.2. Bảng 3.2.8Kết quả sinh tập phổ biến 1 phần tử 1-items Support 1-items Support {i1=1} 0.3 {i1=1} 0.3 {i1=2} 0.4 {i1=2} 0.4 {i1=3} 0.3 Support 0.01 {i1=3} 0.3 {i2=1.0} 0.4 {i2=1.0} 0.4 {i2=1.5} 0.3 {i2=1.5} 0.3 {i2=0.5} 0.3 {i2=0.5} 0.3 {i3=A} 0.7 {i3=A} 0.7 {i3=B} 0.3 {i3=B} 0.3 Tìm tập phổ biến 2 phần tử: Từ tập phổ biến 1 phần tử sinh tập 2 phần tử, duyệt tập dữ liệu để tính Support cho tập 2 phần tử, so sánh với MinSupp để xác định tập phổ biến 2 phần tử. Kết quả đƣợc trình bày trong Bảng 3.3. Bảng 3.3.9Kết quả sinh tập phổ biến 2 phần tử 2-items Support 2-items Support {i1=1, i1=2} 0.0 {i1=3, i2=1.5} 0.0 {i1=1, i1=3} 0.0 {i1=3, i2=0.5} 0.3 2-items Support {i1=1, i2=1.0} 0.0 {i1=3, i3=A} 0.0 {i1=1, i2=1.5} 0.3 {i1=1, i2=1.5} 0.3 {i1=3, i3=B} 0.3 {i1=1, i3=A} 0.3 {i1=1, i2=0.5} 0.0 {i2=1.0, i2=1.5} 0.0 {i1=2, i2=1.0} 0.4 {i1=1, i3=A} 0.3 {i2=1.0, i2=0.5} 0.0 Support 0.01 {i1=2, i3=A} 0.4 {i1=1, i3=B} 0.0 {i2=1.0, i3=A} 0.4 {i1=3, i2=0.5} 0.3 {i1=2, i1=3} 0.0 {i2=1.0, i3=B} 0.0 {i1=3, i3=B} 0.3 {i1=2, i2=1.0} 0.4 {i2=1.5, i2=0.5} 0.0 {i2=1.0, i3=A} 0.4 {i1=2, i2=1.5} 0.0 {i2=1.5, i3=A} 0.3 {i2=1.5, i3=A} 0.3 {i1=2, i2=0.5} 0.0 {i2=1.5, i3=B} 0.0 {i2=0.5, i3=B} 0.3 {i1=2, i3=A} 0.4 {i2=0.5, i3=A} 0.0 {i1=2, i3=B} 0.0 {i2=0.5, i3=B} 0.3 {i1=3, i2=1.0} 0.0 {i3=A, i3=B } 0.0 56 Tìm tập phổ biến 3 phần tử: Từ tập phổ biến 2 phần tử sinh tập 3 phần tử, duyệt tập dữ liệu để tính Support cho tập 3 phần tử, so sánh với MinSupp để xác định tập phổ biến 3 phần tử. Kết quả đƣợc trình bày trong Bảng 3.4. Bảng 3.4.10Kết quả sinh tập phổ biến 3 phần tử 3-items Support 3-items Support {i1=1, i2=1.5, i3=A} 0.3 {i1=2, i2=1.5, i3=B} 0.0 {i1=1, i2=1.5, i3=B} 0.0 {i1=2, i2=0.5, i3=A} 0.0 {i1=1, i2=1.0, i3=A} 0.0 {i1=2, i2=0.5, i3=B} 0.0 3-items Support {i1=1, i2=1.0, i3=B} 0.0 {i1=3, i2=0.5, i3=A} 0.0 Support 0.01 {i1=1, i2=1.5, i3=A} 0.3 {i1=1, i2=0.5, i3=A} 0.0 {i1=3, i2=0.5, i3=B} 0.3 {i1=2, i2=1.0, i3=A} 0.3 {i1=1, i2=0.5, i3=B} 0.0 {i1=3, i2=1.5, i3=A} 0.0 {i1=3, i2=0.5, i3=B} 0.3 {i1=2, i2=1.0, i3=A} 0.3 {i1=3, i2=1.5, i3=B} 0.0 {i1=2, i2=1.0, i3=B} 0.0 {i1=3, i2=1.0, i3=A} 0.0 {i1=2, i2=1.5, i3=A} 0.0 {i1=3, i2=1.0, i3=B} 0.0 Sinh Luật kết hợp dựa trên thuộc tính quyết định Từ các tập phổ biến ta sinh tập luật kết hợp dựa trên thuộc tính quyết định gồm 9 luật đƣợc trình bày trong Bảng 3.5. Bảng 3.5.11Kết quả sinh luật kết hợp dựa trên thuộc tính quyết định TT Luật kết hợp dựa trên thuộc tính quyết định Support Confidence 1 {i1=1} => {i3=A} 0.3 1.0 2 {i2=1.5} => {i3=A} 0.3 1.0 3 {i1=3} => {i3=B} 0.3 1.0 4 {i2=0.5} => {i3=B} 0.3 1.0 5 {i2=1} => {i3=A} 0.4 1.0 6 {i1=2} => {i3=A} 0.4 1.0 7 {i1=1,i2=1.5} => {i3=A} 0.3 1.0 8 {i1=3,i2=0.5} => {i3=B} 0.3 1.0 9 {i1=2,i2=1} => {i3=A} 0.4 1.0 3.2. Tham số hàm ý thống kê của luật kết hợp 3.2.1. Tham số hàm ý thống kê Giá trị hấp dẫn của một luật kết hợp dựa trên thuộc tính quyết định theo một độ đo hấp dẫn khách quan sẽ đƣợc tính dựa trên bộ các thành phần ̅ của luật kết hợp [35]: ̅ Các tham số ̅ đƣợc gọi là các tham số hàm ý thống kê. Trong đó, là tổng số giao dịch trong hệ thống; là số giao dịch có chứa ; là số giao dịch có chứa ; và ̅ là số giao dịch có chứa nhƣng không chứa . 57 3.2.2. Tham số hàm ý thống kê dựa trên ma trận nhị phân Để xác định giá trị các tham số ̅ của từng luật kết hợp, luận án đề xuất phƣơng pháp chuyển đổi tập dữ liệu giao dịch và tập luật kết hợp sang dạng ma trận thƣa nhị phân (binary sparse matrix) [10]. Việc chuyển đổi này có hai mục tiêu chính. Thứ nhất là phần lớn thuật toán sinh luật kết hợp đều dựa trên dữ liệu nhị phân. Điều này sẽ thuận lợi khi triển khai thực nghiệm. Thứ hai là với cấu trúc ma trận thƣa nhị phận có thể giải quyết đƣợc vấn đề không gian lƣu trữ cho các tập dữ liệu lớn và tăng tốc độ xử lý của các thuật toán của mô hình. Do, các thuật toán chỉ xử lý dữ liệu trong bộ nhớ trong thay vì phải truy xuất bộ nhớ ngoài. 3.2.2.1. Chuyển tập dữ liệu giao dịch sang ma trận thưa nhị phân Cấu ma trận dữ liệu nhị phân gồm n dòng m cột với n là tổng số giao dịch của tập dữ liệu, m là tổng số giá trị của tất cả các thuộc tính có trong tập dữ liệu giao dịch. Trong đó, mỗi giao dịch đƣợc chuyển thành một dòng ma trận, mỗi giá trị của các thuộc tính trên tập dữ liệu giao dịch sẽ thành một cột của ma trận. Các giá trị của ma trận đƣợc xác định theo nguyên tắc sau: nếu giao dịch ở dòng i có chứa giá trị thuộc tính tƣơng ứng ở cột j thì giá trị của ô(i,j) đƣợc gán bằng 1, ngƣợc lại thì giá trị của ô(i,j) đƣợc gán bằng 0. Ví dụ 3.2. Từ tập dữ liệu giao dịch đã trình bày trong Ví dụ 3.1 ta tiến hành chuyển đổi dữ liệu sang dạng ma trận nhị phân nhƣ sau: ma trận có cấu trúc 10 dòng (do tập dữ liệu có 10 giao dịch) 8 cột (do tổng số giá trị của các thuộc tính là 8: i1 có 3 giá trị, i2 có 3 giá trị, i3 có 2 giá trị); do dữ liệu giao dịch ở dòng 1 chỉ chứa các giá trị i1=2, i2=1.0, i3=A nên các ô(1,2)=1, ô(1,5)=1, ô(1,7)=1 và các ô còn lại của dòng 1 bằng 0; tƣơng tƣ nhƣ dòng 1 ta xác định giá trị cho các dòng còn lại của ma trận. Kết quả chuyển đổi đƣợc trình bày trong Bảng 3.6. Bảng 3.6.12Kết quả chuyển từ dữ liệu giao dịch sang dạng ma trận nhị phân Dữ liệu giao dịch Ma trận dữ liệu nhị phân i1=1 i1=2 i1=3 i2=1.5 i2=1.0 i2=0.5 i3=A i3=B 2 1.0 A 0 1 0 0 1 0 1 0 1 1.5 A 1 0 0 1 0 0 1 0 3 0.5 B 0 0 1 0 0 1 0 1 3 0.5 B 0 0 1 0 0 1 0 1 2 1.0 A 0 1 0 0 1 0 1 0 1 1.5 A 1 0 0 1 0 0 1 0 1 1.5 A 1 0 0 1 0 0 1 0 2 1.0 A 0 1 0 0 1 0 1 0 3 0.5 B 0 0 1 0 0 1 0 1 2 1.0 A 0 1 0 0 1 0 1 0 58 3.2.2.2. Chuyển tập luật kết hợp sang ma trận thưa nhị phân Đối với tập luật kết hợp, dữ liệu chuyển đổi sang dạng ma trận nhị phân của tập luật đƣợc chia làm 3 phần: ma trận luật nhị phân đầy đủ, ma trận luật nhị phân vế trái và ma trận luật nhị phân vế phải. Trong từng ma trận nhị phân, việc chuyển đổi đƣợc thực hiện theo nguyên tắc sau: mỗi luật kết hợp đƣợc chuyển thành một dòng của ma trận, mỗi thuộc tính xuất hiện trong vế trái hoặc vế phải của luật kết hợp đƣợc chuyển thành một cột trong ma trận. Các giá trị của ma trận đƣợc xác định theo nguyên tắc sau: nếu vế trái hoặc vế phải của luật kết hợp ở dòng i có chứa thuộc tính tƣơng ứng ở cột j thì giá trị của ô(i,j) đƣợc gán bằng 1, ngƣợc lại thì giá trị của ô(i,j) đƣợc gán bằng 0. Ví dụ 3.3. Từ tập luật kết hợp đã trình bày trong Ví dụ 3.1 ta tiến hành ch

Các file đính kèm theo tài liệu này:

  • pdfluan_an_he_tu_van_dua_tren_phan_tich_ham_y_thong_ke.pdf
Tài liệu liên quan