Luận án Rút gọn thuộc tính trong bảng quyết định không đầy đủ theo tiếp cận tập thô dung sai

MỤC LỤC

LỜI CAM ĐOAN.1

LỜI CẢM ƠN.2

MỤC LỤC.3

DANH MỤC CÁC THUẬT NGỮ.6

BẢNG CÁC KÝ HIỆU, TỪ VIẾT TẮT.7

DANH MỤC HÌNH, BẢNG.8

MỞ ĐẦU.9

CHƯƠNG 1. MỘT SỐ KIẾN THỨC CƠ SỞ.18

1.1. Hệ thông tin và mô hình tập thô truyền thống.18

1.1.1. Hệ thông tin.18

1.1.2. Mô hình tập thô truyền thống.19

1.1.3. Bảng quyết định đầy đủ.21

1.1.4. Tập rút gọn và tập lõi .22

1.2. Hệ thông tin không đầy đủ và mô hình tập thô dung sai.23

1.2.1. Hệ thông tin không đầy đủ.23

1.2.2. Mô hình tập thô dung sai .24

1.2.3. Bảng quyết định không đầy đủ.27

1.3. Các khái niệm về tập rút gọn của bảng quyết định không đầy đủ.29

1.3.1. Tập rút gọn dựa trên hàm quyết định suy rộng .29

1.3.2. Tập rút gọn dựa trên miền dương.30

1.3.3. Tập rút gọn dựa trên độ đo lượng thông tin .30

1.3.4. Tập rút gọn dựa trên ma trận phân biệt .30

1.3.5. Tập rút gọn dựa trên ma trận dung sai.31

1.3.6. Tập rút gọn dựa trên hàm phân bố, hàm ấn định .32

1.3.7. Tập rút gọn dựa trên metric.32

1.4. Kết luận chương 1 .334

CHƯƠNG 2. ĐỀ XUẤT PHÂN NHÓM VÀ ĐÁNH GIÁ CÁC PHƯƠNG PHÁP

RÚT GỌN THUỘC TÍNH TRONG BẢNG QUYẾT ĐỊNH KHÔNG ĐẦY ĐỦ.34

2.1. Mở đầu.34

2.2. Đề xuất phân nhóm các phương pháp rút gọn thuộc tính .35

2.2.1 Bảng ký hiệu các tập rút gọn của bảng quyết định không đầy đủ .36

2.2.2 Mối liên hệ giữa các khái niệm tập rút gọn RD, RI, RTM.37

2.2.3 Mối liên hệ giữa Rvà RP.40

2.2.4 Mối liên hệ giữa RDvà R.41

2.2.5 Mối liên hệ giữa Rvà R.44

2.2.6 Đề xuất phân nhóm các phương pháp rút gọn thuộc tính .45

2.3. Đánh giá các phương pháp rút gọn thuộc tính.48

2.3.1. Luật quyết định và các độ đo đánh giá hiệu năng .48

2.3.2. Đề xuất các độ đo mới đánh giá hiệu năng tập luật quyết định .54

2.3.3. Nghiên cứu sự thay đổi giá trị các độ đo đề xuất trên các tập rútgọn .57

2.3.4. Thử nghiệm sự thay đổi giá trị các độ đo đề xuất trên các tập rútgọn .60

2.3.5. Lựa chọn, đánh giá các phương pháp rút gọn thuộc tính.65

2.4. Kết luận chương 2 .67

CHƯƠNG 3. ĐỀ XUẤT CÁC PHƯƠNG PHÁP RÚT GỌN THUỘC TÍNH TRONG

BẢNG QUYẾT ĐỊNH KHÔNG ĐẦY ĐỦ.68

3.1. Mở đầu.68

3.2. Chọn tập đối tượng đại diện cho bài toán rút gọn thuộc tính.68

3.2.1. Chọn tập đối tượng đại diện cho hệ thông tin không đầy đủ.69

3.2.2. Chọn tập đối tượng đại diện cho bảng quyết định không đầy đủ .73

3.3. Phương pháp rút gọn thuộc tính sử dụng lượng thông tin mở rộng có điềukiện .785

3.3.1. Độ đo lượng thông tin mở rộng .79

3.3.2. Xây dựng lượng thông tin mở rộng có điều kiện .80

3.3.3. Rút gọn thuộc tính sử dụng lượng thông tin mở rộng có điều kiện82

3.3.4. Thử nghiệm và đánh giá kết quả.87

3.4. Phương pháp rút gọn thuộc tính sử dụng hàm quan hệ.91

3.4.1. Ma trận quan hệ và hàm quan hệ .92

3.4.2. Rút gọn thuộc tính sử dụng hàm quan hệ .95

3.4.3. Thử nghiệm và đánh giá kết quả.98

3.5. Kết luận chương 3.100

DANH MỤC CÔNG TRÌNH CỦA TÁC GIẢ.104

pdf114 trang | Chia sẻ: lavie11 | Lượt xem: 471 | Lượt tải: 1download
Bạn đang xem trước 20 trang tài liệu Luận án Rút gọn thuộc tính trong bảng quyết định không đầy đủ theo tiếp cận tập thô dung sai, để xem tài liệu hoàn chỉnh bạn click vào nút DOWNLOAD ở trên
Từ những mối quan hệ giữa các khái niệm tập rút gọn của các tác giả và các mối quan hệ đã trình bày trên ta có nhận xét là nếu bảng quyết định không nhất quán, mối liên hệ giữa các tập rút gọn được biểu diễn bằng sơ đồ sau: Hình 1.1 Mối quan hệ giữa các tập rút gọn Sơ đồ trên cho thấy các tập rút gọn trong bảng không nhất quán được chia thành bốn nhóm: 1) Nhóm 1: Bao gồm tập rút gọn .PR 2) Nhóm 2: Bao gồm các tập rút gọn , , .R R MR 3) Nhóm 3: Bao gồm các tập rút gọn , , .DR IR TMR 4) Nhóm 4: Bao gồm tập rút gọn .R Mối liên hệ giữa các tập rút gọn trong các nhóm như sau:  Nếu là một tập rút gọn thuộc Nhóm 3 thì tồn tại một tập rút gọn 3R 2R thuộc Nhóm 2 và một tập rút gọn thuộc Nhóm 1 sao cho 1R .1 2 3R R R   PR MRRR ,,  TMID RRR ,, R   47  Nếu là một tập rút gọn thuộc Nhóm 4 thì tồn tại một tập rút gọn 4R 2R thuộc Nhóm 2 và một tập rút gọn thuộc Nhóm 1 sao cho 1R .1 2 4R R R  Như vậy, tập rút gọn của Nhóm 1 có số thuộc tính nhỏ nhất, sau đó đến Nhóm 2 và Nhóm 3, Nhóm 4. Dựa vào kết quả phân nhóm các tập rút gọn, các phương pháp rút gọn thuộc tính trong bảng quyết định không đầy đủ cũng được phân thành bốn nhóm tương ứng. Đế đánh giá tính hiệu quả của một phương pháp rút gọn thuộc tính, cộng đồng nghiên cứu về tập thô sử dụng hai tiêu chuẩn: 1) độ phức tạp về thời gian thực hiện thuật toán heuristic tìm một tập rút gọn tốt nhất và 2) chất lượng phân lớp của tập rút gọn. Các công bố về rút gọn thuộc tính đều tính toán độ phức tạp thời gian thuật toán tìm tập rút gọn. Do đó, hoàn toàn có thể so sánh được tính hiệu quả của các phương pháp về tiêu chuẩn thời gian. Vì vậy, luận án tập trung nghiên cứu việc đánh giá các phương pháp dựa trên tiêu chuẩn về độ hỗ trợ của tập luật. Việc đánh giá khả năng phân lớp của tập rút gọn dựa vào số lượng thuộc tính của tập rút gọn và khả năng phân lớp của từng thuộc tính. Về mặt định tính, tập rút gọn có số thuộc tính càng ít thì khả năng phân lớp càng cao. Tuy nhiên, điều này chưa hẳn đã chính xác vì khả năng phân lớp của từng thuộc tính khác nhau. Tóm lại, ta cần phải sử dụng độ đo mang tính định lượng để đánh giá khả năng phân lớp của tập rút gọn. Trong lý thuyết tập thô, các nhà nghiên cứu sử dụng ba độ đo để đánh giá tính đúng đắn và tính hiệu quả của một phương pháp rút gọn thuộc tính: độ chắc chắn (certainty measure), độ nhất quán (consistency measure) và độ hỗ trợ (support measure), cụ thể là: tập rút gọn của phương pháp rút gọn thuộc tính phải bảo toàn độ chính xác, độ 48 nhất quán của tập luật quyết định. Độ hỗ trợ sử dụng để đánh giá khả năng phân lớp của tập rút gọn. Độ hỗ trợ của tập luật quyết định dựa trên tập rút gọn càng cao thì khả năng phân lớp của tập rút gọn đó càng cao. 2.3. Đánh giá các phương pháp rút gọn thuộc tính Trong phần này, trước hết luận án sẽ tổng kết các kết quả nghiên cứu liên quan đến luật quyết định và các độ đo đánh giá hiệu năng tập luật trong bảng quyết định không đầy đủ. Tiếp theo, luận án sẽ phân tích nhược điểm các độ đo đánh giá hiệu năng tập luật của Yuhua Qian và các cộng sự trong công trình [33], trên cơ sở đó luận án đề xuất các độ đo mới và nghiên cứu sự thay đổi giá trị các độ đo đề xuất trên các tập rút gọn nhằm đánh giá các phương pháp rút gọn thuộc tính. Các kết quả trong phần này đã được tác giả công bố trong công trình [CT2]. (Danh mục các công trình của tác giả). 2.3.1. Luật quyết định và các độ đo đánh giá hiệu năng Cho bảng quyết định không đầy đủ với , giả   ,IDS U A d   1,..., nU u u sử và . Với ,      1/ { ,..., }A A nU SIM A S u S u   1 2/ { , ,..., }mU d Y Y Y    /A iS u U SIM A và , ký hiệu và lần lượt là các mô  /jY U d  A i jS u Y    A ides S u  jdes Y tả của lớp dung sai và lớp tương đương . Chú ý rằng nếu giá trị  A iS u jY thì bỏ giá trị này ra khỏi vì quy ước giá trị * bằng tất cả  ia u     A ides S u các giá trị khác. Một luật quyết định đơn có dạng     :ij A i jZ des S u des Y [33]. Giống như luật quyết định trong bảng quyết định đầy đủ, độ chắc chắn, độ hỗ trợ và độ bao phủ của luật quyết định đơn tương ứng là:ijZ      /ij A i j A iZ S u Y S u   49     /ij A i js Z S u Y U      /ij A i j jZ S u Y Y   Ví dụ 2.4. Xét bảng quyết định không đầy đủ mô tả về các   ,IDS U A d  tivi cho ở Bảng 2.4 với , với (Đơn  1 2 3 4 5 6, , , , ,U u u u u u u  4321 ,,, aaaaA  1a giá), (Màu sắc), (Tính năng), (Độ phân giải).2a 3a 4a Bảng 2.4. Bảng quyết định không đầy đủ về các tivi Tivi Đơn giá Màu sắc Tính năng Độ phân giải Chất lượng(d) u1 Cao Đen Đầy đủ Thấp Tốt u2 Thấp * Đầy đủ Thấp Tốt u3 * * Thiếu Thấp Xấu u4 Cao * Đầy đủ Cao Tốt u5 * * Đầy đủ Cao Tuyệt hảo u6 Thấp Nâu Đầy đủ * Tốt Ta có , với 1 2 3 4 5 6/ ( ) { ( ), ( ), ( ), ( ), ( ), ( )}A A A A A AU SIM A S u S u S u S u S u S u , , , , , 1 1( ) { }AS u u 2 2 6( ) { , }AS u u u 3 3( ) { }AS u u 4 4 5( ) { , }AS u u u 5 4 5 6( ) { , , }AS u u u u . với , , .6 2 5 6( ) { , , }AS u u u u    1 2 3/ , ,U d Y Y Y 1 1 2 4 6{ , , , }Y u u u u 2 3{ }Y u 3 5{ }Y u Các luật quyết định là: (a1, Cao)  (a2, Đen)  (a3, Đầy đủ)  (a4, Thấp)  (d, Tốt)11 :Z (a1, Thấp)  (a3, Đầy đủ)  (a4, Thấp)  (d, Tốt)21 :Z 50 (a3, Thiếu)  (a4, Thấp)  (d, Xấu)32 :Z (a1, Cao)  (a3, Đầy đủ)  (a4, Cao)  (d, Tốt)41 :Z (a1, Cao)  (a3, Đầy đủ)  (a4, Cao)  (d, Tuyệt hảo)43 :Z (a3, Đầy đủ)  (a4, Cao)  (d, Tốt)51 :Z (a3, Đầy đủ)  (a4, Cao)  (d, Tuyệt hảo)53 :Z (a1, Thấp)  (a2, Nâu)  (a3, Đầy đủ)  (d, Tốt)61 :Z (a1, Thấp)  (a2, Nâu)  (a3, Đầy đủ)  (d, Tuyệt hảo)63 :Z Các độ đo của các luật quyết định đơn là: ,     11 11 11 11: 1, 1 / 6, 1 / 4Z Z s Z Z    ,     21 21 21 21: 1, 1 / 3, 1 / 2Z Z s Z Z    ,     32 32 32 32: 1, 1 / 6, 1Z Z s Z Z    ,     41 41 41 41: 1 / 2, 1 / 6, 1 / 4Z Z s Z Z    ,     43 43 43 43: 1 / 2, 1 / 6, 1Z Z s Z Z    ,     51 51 51 51: 2 / 3, 1 / 3, 1 / 2Z Z s Z Z    ,     53 53 53 53: 1 / 3, 1 / 6, 1Z Z s Z Z    ,     61 61 61 61: 2 / 3, 1 / 3, 1 / 2Z Z s Z Z    .     63 63 63 63: 1 / 3, 1 / 6, 1Z Z s Z Z    Các độ đo này chỉ sử dụng để đánh giá các luật quyết định đơn, không phù hợp cho việc đánh giá tập luật quyết định. Giả sử    1 2/ , ,..., mF U d Y Y Y  51 là một phân lớp của U theo d, độ chính xác của phân lớp F theo A, ký hiệu là , được Pawlak [45] định nghĩa: A F       / / i i iY U d A iY U d AY F AY      Trong một số trường hợp, được dùng để đo độ chắc chắn của  A F bảng quyết định. Tuy nhiên, nhược điểm của độ đo này được minh họa trong ví dụ sau: Ví dụ 2.5. Xét bảng quyết định ở Ví dụ 2.4, ta có:      2 1 2 3 4 5 2 3 4 5 6/ ( ) { , , , , , , , , , , , , , }U SIM a u u u u u U U U U u u u u u              2 4 1 2 3 1 2 3 6 1 2 3 6 4 5 6 4 5 6 2 3 4 5 6/ ( , ) { , , , , , , , , , , , , , , , , , , , , , }U SIM a a u u u u u u u u u u u u u u u u u u u u u u         2 2/ 2/ 0/ 0 6 6 6 i i iY U d a iY U d a Y U d a Y          .          2 4 2 4/ , 2 4/ , 0/ 0 6 4 3, i i iY U d a a iY U d a a Y U d a a Y          Vì vậy, . Tuy nhiên, phủ sinh bởi mịn        2 2 4,/ /a a aU d U d   2 4,a a hơn phủ sinh bởi . Do đó, độ chắc chắn phân lớp nêu trên không phù hợp  2a để đánh giá độ chắc chắn của bảng quyết định, hay tập luật quyết định Trong bảng quyết định không đầy đủ, nghiên cứu đáng chú ý về độ đo đánh giá hiệu năng phải kể đến nhóm nghiên cứu của Yuhua Qian và các cộng sự [33], trong đó các tác giả đã đưa ra độ chắc chắn, độ nhất quán và độ hỗ trợ của tập luật trong bảng quyết định không đầy đủ dựa trên khái niệm khối đồng nhất cực đại (consistent block). Trước hết, luận án trình bày khái niệm khối đồng nhất cực đại trong công trình [52]. 52 Cho bảng quyết định không đầy đủ và một quan hệ   ,IDS U A d  dung sai xác định trên tập thuộc tính P. Khi đó,  SIM P là tập lớn nhất các đối tượng không có khả       PSIMvuUvuSP  ,| năng phân biệt được với u trên tập thuộc tính P. là lớp dung sai, còn  PS u gọi là hạt tri thức (knowledge granular). là đơn vị nhỏ nhất sử dụng để  PS u mô tả tri thức và lực lượng của là đơn vị tính toán cơ sở cho các  PS u phương pháp rút gọn thuộc tính [52]. Theo định nghĩa, các đối tượng trong lớp dung sai có quan hệ dung sai với đối tượng u, tuy nhiên các đối  PS u tượng trong có thể không quan hệ dung sai với nhau. Xét bảng quyết  PS u định trong Ví dụ 2.4, ta có , theo định nghĩa quan 5 4 5 6( ) { , , }AS u u u u 654 ,, uuu hệ dung sai với , tuy nhiên và không quan hệ dung sai với nhau. Do 5u 4u 6u đó, trong công trình [52], các tác giả nêu quan điểm rằng các lớp dung sai chưa phải là đơn vị nhỏ nhất để mô tả tri thức và đưa ra khái niệm  PS u khối đồng nhất cực đại (Maximal consistent block). Về bản chất, khối đồng nhất cực đại của đối tượng u là tập con của lớp dung sai , trong đó tất  PS u cả các đối tượng có quan hệ dung sai với nhau. Khối đồng nhất cực đại được định nghĩa như sau. Xét bảng quyết định không đầy đủ với và   ,IDS U A d  P A , ta nói rằng X là đồng nhất (consistent) trên tập thuộc tính P nếu với UX  mọi ta có (nghĩa là u và v quan hệ dung sai với nhau). Xvu , )(, PSIMvu  Nếu không tồn tại một tập con sao cho và X là đồng nhất trên UY  YX  tập thuộc tính P thì X được gọi là khối đồng nhất cực đại trên tập thuộc tính P. Ký hiệu là tập tất cả các khối đồng nhất cực đại trên tập thuộc tính P PMC và là khối đồng nhất cực đại chứa đối tượng u. Với bảng quyết định  uMCP đã cho ở Ví dụ 2.4, các khối đồng nhất cực đại là 53 , trong khi đó các lớp dung sai của các đối           65543621 ,,,,,,, uuuuuuuuMCA tượng là . Hiển nhiên,               652654543621 ,,,,,,,,,,,/ uuuuuuuuuuuuASIMU  các khối đồng nhất cực đại cũng tạo ra một phủ của U chứ không phải một phân hoạch của U, nghĩa là các khối cực đại có thể giao nhau. Trở lại với độ chắc chắn, độ nhất quán và độ hỗ trợ của tập luật trong công bố của Yuhua Qian và các cộng sự [33], các độ đo này được định nghĩa dựa trên các khối đồng nhất cực đại như sau: Cho bảng quyết định không đầy đủ với   ,IDS U A d   nuuU ,....,1 và tập luật với     jiijij YdesXdesZZRULE  :| . là họ các khối đồng nhất cực đại trên   mjnidUYMCX jAi ..1,..1,/,  AMC tập thuộc tính A. Độ chắc chắn của IDS được định nghĩa [33] .   1 1 1 1 iNm i j i ji i X Y IDS m N X       Độ nhất quán của IDS được định nghĩa [33]        1 1 1 41 1 iNm i j ij ij i ji IDS X Y Z Z m X              Độ hỗ trợ của IDS được định nghĩa [33]   1 1 jNn j k j j ki Y X Y IDS N U U      Từ các công thức trên ta thấy rằng độ chắc chắn, độ nhất quán, độ hỗ trợ được định nghĩa qua các khối đồng nhất cực đại. Trong khi đó, các phương pháp rút gọn thuộc tính trong các nhóm phương pháp được trình bày ở phần 1.1 đều sử dụng các độ đo được định nghĩa qua lực lượng của các lớp dung sai, ví dụ phương pháp sử dụng độ đo lượng thông tin (information quantity) 54 [16], độ đo lượng thông tin được định nghĩa qua lực lượng của lớp dung sai của đối tượng , . Do đó, Yuhua Qian và  iB uS Uui        n i iB uS U BI 1 2 11 các cộng sự [33] chưa đánh giá sự thay đổi giá trị độ chắc chắn, độ nhất quán, độ hỗ trợ trên các tập rút gọn của của các phương pháp rút gọn thuộc tính, do đó các độ đo này gặp khó khăn trong việc đánh giá tính hiệu quả (về khả năng phân lớp hay độ hỗ trợ của tập luật) của các phương pháp rút gọn thuộc tính. Hơn nữa, vì các độ đo này được tính qua các khối đồng nhất cực đại nên việc nghiên cứu sự thay đổi các độ đo này trên các tập rút gọn ta cần chuyển đổi các độ đo này sang đơn vị tính toán cơ sở là lực lượng các lớp dung sai. Hướng nghiên cứu này hoàn toàn có thể thực hiện được vì công trình [52] cho phép tính toán lớp dung sai dựa trên khối đồng nhất cực đại. Theo [52], nếu là tập tất cả các khối đồng nhất cực đại và khi và chỉ khi AMC AMCX  . Tuy nhiên, việc chuyển đổi các công thức độ chắc chắn, độ nhất  uAXu SX   quán, độ hỗ trợ trong [33] tính toán qua các lớp dung sai khá phức tạp vì bản thân các công thức độ chắc chắn, độ nhất quán, độ hỗ trợ cũng đã phức tạp và việc chuyển đổi sang lớp dung sai lại càng phức tạp. Do đó, luận án chuyển sang hướng nghiên cứu là định nghĩa lại độ chắc chắn, độ nhất quán, độ hỗ trợ qua các lớp dung sai. Việc định nghĩa các độ đo mới, độ chắc chắn, độ nhất quán, độ hỗ trợ, qua các lớp dung sai dựa trên ý tưởng mở rộng độ chắc chắn, độ nhất quán, độ hỗ trợ trên bảng quyết định đầy đủ trong luận án tiến sĩ [2]. 2.3.2. Đề xuất các độ đo mới đánh giá hiệu năng tập luật quyết định Trên cơ sở mở rộng các kết quả nghiên cứu trong luận án tiến sĩ [2], luận án đề xuất ba độ đo mới đánh giá hiệu năng tập luật quyết định: độ chắc chắn, độ nhất quán và độ hỗ trợ. Các độ đo này được tính bằng trung bình cộng của tất cả các luật quyết định đơn và được tính dựa trên lực lượng các lớp dung sai. Từ đó, luận án đánh giá sự thay đổi các độ đo đề xuất trên các tập rút gọn nhằm so sánh, đánh giá tính hiệu quả của các phương pháp rút gọn thuộc tính. 55 Cho bảng quyết định không đầy đủ với và   ,IDS U A d   1,..., nU u u tập luật với      :ij ij A i jRULE Z Z des S u des Y  .      / , / , 1.. , 1..A i jS u U SIM A Y U d i n j m    Độ chắc chắn của IDS được định nghĩa .    1 1 1 1 iNn A i j i ji A i S u Y IDS n N S u       Độ nhất quán của IDS được định nghĩa     1 1 1 1 1 1 1 iNn A i j i ji A i S u Y IDS n N nS u        Độ hỗ trợ của IDS được định nghĩa     1 1 1 n m A i j i j S u Y IDS n n      Ký hiệu là số luật quyết định (số lớp quyết định) sinh bởi lớp dung iN sai . A iS u Dễ thấy rằng, đạt giá trị lớn nhất là 1 nếu với mọi  IDS   1ijZ  , nghĩa là IDS nhất quán, và đạt giá trị nhỏ nhất là nếu ijZ RULE  IDS 1 / n , nghĩa là và với mọi . Tương tự, đạt iN n m U  A iS u U iu U  IDS giá trị lớn nhất là 1 khi đạt giá trị lớn nhất là 1 và đạt giá trị  IDS  IDS nhỏ nhất là 0 khi đạt giá trị nhỏ nhất là . đạt giá trị lớn  IDS 1 / n  IDS nhất là 1 nếu với mọi . đạt giá trị nhỏ nhất là nếu  A iS u U iu U  IDS 1 / n với mọi . Mệnh đề 2.6 sau đây chứng minh một số tính    A i iS u u iu U chất quan trọng của các độ đo đánh giá hiệu năng. 56 Mệnh đề 2.6. Cho hai bảng quyết định không đầy đủ ,   ,IDS U A d  và với   ' ,IDS U B d       :ij ij A i jRULE Z Z des S u des Y  , , . Nếu thì ,      / , /A i jS u U SIM A Y U d  1..i n 1..j m B A    'IDS IDS  ,    'IDS IDS     'IDS IDS  Chứng minh. 1) Giả sử , tương ứng là số luật quyết định sinh bởi lớp  iN A  iN B dung sai , . Theo [24], nếu thì với mọi  A iS u  B iS u B A    A i B iS u S u , suy ra . Từ đó ta có:iu U    i iN A N B = =          1 1 1 1 iN An A i j i ji A i S u Y IDS n N A S u          1 1 1 1 1 1n n i ii in N A n N B    = . Do đó .        1 1 1 1 iN Bn B i j i ji B i S u Y n N B S u     'IDS    'IDS IDS  Dấu đẳng thức khi và chỉ khi . Theo định    'IDS IDS     i iN A N B nghĩa hàm quyết định suy rộng ta có với mọi | ( ) | | ( ) | ( ) ( )A i B i A i B iu u u u       .iu U 2) Chứng minh tương tự như phần 1) ta có . Dấu đẳng    'IDS IDS  thức khi và chỉ khi với mọi .   'IDS IDS  ( ) ( )A i B iu u   iu U 3) Nếu thì với , suy ra B A    A i B iS u S u iu U với ,    A i j B i jS u Y S u Y   iu U  /jY U d    A i j B i jS u Y S u Y    . Dấu đẳng thức     1 1 1 1 1 1n m n mA i j B i j i j i j S u Y S u Y n n n n           'IDS IDS   khi và chỉ khi .   'IDS IDS     A i B iS u S u 57 2.3.3. Nghiên cứu sự thay đổi giá trị các độ đo đề xuất trên các tập rút gọn Trước hết, luận án tổng kết lại kết quả phân nhóm các tập rút gọn được trình bày ở mục 2.2.6. Nhóm 1: Tập rút gọn miền dương .PR Nhóm 2: Bao gồm tập rút gọn dựa trên hàm quyết định suy rộng ( ), R tập rút gọn ấn định ( ), tập rút gọn dựa trên ma trận phân biệt ( ). Luận R MR án chọn tập rút gọn dựa trên hàm quyết định suy rộng làm đại diện.R Nhóm 3: Bao gồm tập rút gọn dựa trên lượng thông tin ( ), tập rút IR gọn dựa trên ma trận dung sai ( ), tập rút gọn dựa trên khoảng cách ( ), TMR DR luận án chọn tập rút gọn dựa trên khoảng cách làm đại diện.DR Nhóm 4: Tập rút gọn phân bố .R Trong mục này, chúng tôi nghiên cứu sự thay đổi của độ chắc chắn , độ nhất quán và độ hỗ trợ dựa trên bốn tập rút gọn  IDS  IDS  IDS của bốn nhóm phương pháp nêu trên. Mệnh đề 2.7. Cho hai bảng quyết định không đầy đủ và   ,IDS U A d  .   ' ,IDS U B d  a) Nếu IDS nhất quán và B là một tập rút gọn miền dương ( ) thì PR , ,    ' 1IDS IDS      ' 1IDS IDS      'IDS IDS  b) Nếu IDS không nhất quán và B là một tập rút gọn miền dương ( ) thì PR , ,    'IDS IDS     'IDS IDS     'IDS IDS  58 Chứng minh a) Nếu IDS nhất quán và B là một tập rút gọn miền dương thì . Từ công thức tính dễ dàng suy ra | ( ) | | ( ) | 1A i B iu u       ,IDS IDS  , . Hơn nữa, theo Mệnh đề 2.6 ta có    ' 1IDS IDS      ' 1IDS IDS   .   'DS DS  Như vậy, tập rút gọn miền dương ( ) bảo toàn độ chắc chắn bằng 1, độ PR nhất quán bằng 1 và tăng độ hỗ trợ của tập luật đối với bảng quyết định không đầy đủ nhất quán. b) Nếu IDS không nhất quán: từ Mệnh đề 2.6 ta có ,    'IDS IDS  , .   'IDS IDS     'IDS IDS  Như vậy, tập rút gọn miền dương ( ) làm giảm độ chắc chắn, giảm độ PR nhất quán và tăng độ hỗ trợ của tập luật đối với bảng quyết định không đầy đủ không nhất quán. Mệnh đề 2.8. Cho hai bảng quyết định không đầy đủ và   ,IDS U A d  . Nếu B là một tập rút gọn dựa trên hàm quyết định suy   ' ,IDS U B d  rộng ( ) thì , , R    'IDS IDS     'IDS IDS     'IDS IDS  Chứng minh Nếu là một tập rút gọn dựa trên hàm quyết định suy rộng thì B với mọi , theo điều kiện dấu đẳng thức của Mệnh đề 2.6 ta ( ) ( )A i B iu u   iu U có , . Cũng theo Mệnh đề 2.6 ta có    'IDS IDS     'IDS IDS  .   'IDS IDS  Như vậy, tập rút gọn dựa trên hàm quyết định suy rộng ( ) bảo toàn độ R chắc chắn, bảo toàn độ nhất quán và tăng độ hỗ trợ của tập luật quyết định. 59 Mệnh đề 2.9. Cho hai bảng quyết định không đầy đủ và   ,IDS U A d  . Nếu B là một tập rút gọn dựa trên khoảng cách ( ) thì   ' ,IDS U B d  DR , ,    'IDS IDS     'IDS IDS     'IDS IDS  Chứng minh Nếu là một tập rút gọn dựa trên khoảng cách ( ) thì B DR , theo kết quả nghiên cứu mối liên            , ,E Ed K B K B d d K A K A d   hệ giữa các tập rút gọn đã trình bày ở trên ta có với mọi , ( ) ( )A i B iu u   iu U theo điều kiện dấu đẳng thức của Mệnh đề 2.6 ta có ,    'IDS IDS  . Cũng theo Mệnh đề 2.6 ta có .   'IDS IDS     'IDS IDS  Giống như tập rút gọn , tập rút gọn bảo toàn độ chắc chắn, bảo R DR toàn độ nhất quán và tăng độ hỗ trợ của tập luật quyết định. Theo kết quả nghiên cứu về mối liên hệ giữa các tập rút gọn đã trình bày ở trên, mỗi tập rút gọn đều tồn tại một tập rút gọn sao cho . Theo Mệnh đề DR R DR R  2.6, độ hỗ trợ của tập luật dựa trên tập rút gọn sẽ nhỏ hơn độ hỗ trợ của DR tập luật dựa trên tập rút gọn . Nghĩa là, chất lượng phân lớp của tập rút R gọn tốt hơn tập rút gọn .R DR Mệnh đề 2.10. Cho hai bảng quyết định không đầy đủ và   ,IDS U A d  . Nếu B là một tập rút gọn phân bố ( ) thì   ' ,IDS U B d  R , ,    'IDS IDS     'IDS IDS     'IDS IDS  Chứng minh Nếu là một tập rút gọn phân bố ( ) thì với mọi , B R    R i A iu u  iu U theo kết quả nghiên cứu mối liên hệ giữa tập rút gọn phân bố và tập rút gọn 60 dựa trên hàm quyết định suy rộng trong [18] ta có với mọi ( ) ( )A i B iu u   , theo điều kiện dấu đẳng thức của Mệnh đề 2.6 ta có , iu U    'IDS IDS  . Cũng theo Mệnh đề 2.6 ta có .   'IDS IDS     'IDS IDS  Giống như tập rút gọn , tập rút gọn bảo toàn độ chắc chắn, bảo R R toàn độ nhất quán và tăng độ hỗ trợ của tập luật quyết định. Theo kết quả nghiên cứu về mối liên hệ giữa các tập rút gọn đã trình bày ở trên, mỗi tập rút gọn đều tồn tại một tập rút gọn sao cho . Theo Mệnh đề 2.6, R R R R  độ hỗ trợ của tập luật dựa trên tập rút gọn sẽ nhỏ hơn độ hỗ trợ của tập R luật dựa trên tập rút gọn . Nghĩa là, chất lượng phân lớp của tập rút gọn R tốt hơn tập rút gọn .R R 2.3.4. Thử nghiệm sự thay đổi giá trị các độ đo đề xuất trên các tập rút gọn Từ kết quả nghiên cứu về lý thuyết của mục 2.3.3 ta có: - Tập rút gọn miền dương thuộc Nhóm 1 ( ) làm giảm độ chắc chắn PR , độ nhất quán ; tập rút gọn dựa trên hàm quyết định suy rộng  IDS  IDS thuộc Nhóm 2 ( ), tập rút gọn dựa trên khoảng cách ( ) thuộc Nhóm 3, tập R DR rút gọn phân bố ( ) thuộc Nhóm 4 bảo toàn độ chắc chắn , độ nhất R  IDS quán . IDS - Các tập rút gọn , , và đều tăng độ hỗ trợ .PR R DR R  IDS - Tập rút gọn có độ hỗ trợ cao hơn . Tập rút gọn có độ hỗ trợ PR R R cao hơn và (tập rút gọn có độ hỗ trợ càng cao thì số luật sinh ra càng DR R ít). 61 Trong mục này, luận án trình bày thử nghiệm các kết quả nghiên cứu lý thuyết nêu trên về sự thay đổi độ chắc chắn , độ nhất quán và  IDS  IDS độ hỗ trợ trên một số bộ số liệu từ kho dữ liệu UCI. IDS Để tiến hành thử nghiệm, luận án thực hiện các công việc sau: 1) Cài đặt các thuật toán sau bằng ngôn ngữ C# tìm một tập rút gọn của bảng quyết định. Với mỗi thuật toán, tính độ chắc chắn , độ  IDS nhất quán và độ hỗ trợ trên bảng quyết định với tập  IDS  IDS rút gọn thu được bằng công thức đề xuất trong mục 2.3.2.  Thuật toán POSBAR tìm một tập rút gọn [56].PR  Thuật toán GDBAR tìm một tập rút gọn [18].R  Thuật toán MBAR tìm một tập rút gọn [27].DR  Thuật toán DFBAR tìm một tập rút gọn [37].R 2) Trên máy tính PC với cấu hình Core i3 4150, 3 GB bộ nhớ RAM, sử dụng hệ điều hành Windows 7, chạy thử nghiệm hai thuật toán với 6 bộ số liệu lấy từ kho dữ liệu UCI [40]. 3) Dữ liệu thử nghiệm trên kho dữ liệu UCI như sau:  Bộ số liệu Hepatitis.data với thông số: Đặc điểm tập dữ liệu: Multivariate, Đặc điểm thuộc tính: Categorical, Integer và Real, Thiếu giá trị : Yes, Lĩnh vực : Life, Số đối tượng: 155, Số thuộc tính :19.  Bộ số liệu Lung-cancer.data với thông số: Đặc điểm tập dữ liệu: Multivariate, Đặc điểm thuộc tính: Integer, Thiếu giá trị : Yes, Lĩnh vực : Life, Số đối tượng: 32, Số thuộc tính :56. 62  Bộ số liệu Automobile.data với thông số: Đặc điểm tập dữ liệu: Multivariate, Đặc điểm thuộc tính: Categorical, Integer và Real, Thiếu giá trị : Yes, Lĩnh vực : N/A, Số đối tượng: 205, Số thuộc tính :26.  Bộ số liệu Anneal.data với thông số: Đặc điểm tập dữ liệu: Multivariate, Đặc điểm thuộc tính: Categorical, Integer và Real, Thiếu giá trị : Yes, Lĩnh vực : Physical, Số đối tượng: 798, Số thuộc tính :38.  Bộ số liệu Congressional Voting Records với thông số: Đặc điểm tập dữ liệu: Multivariate, Đặc điểm thuộc tính: Categorical, Thiếu giá trị : Yes, Lĩnh vực : Social, Số đối tượng: 435, Số thuộc tính :16.  Bộ số liệu Credit Approval với thông số: Đặc điểm tập dữ liệu: Multivariate, Đặc điểm thuộc tính: Categorical, Integer và Real, Thiếu giá trị : Yes, Lĩnh vực : Financial, Số đối tượng: 690, Số thuộc tính :15. 4) Với mỗi bộ số liệu, giả sử là số đối tượng, là số thuộc tính U C điều kiện, là số thuộc tính của tập rút gọn, ,  và  tương ứng là R độ chắc chắn, độ nhất quán và độ hỗ trợ của bảng quyết định. Kết quả thực hiện của hai thuật toán được mô tả ở Bảng 2.5 và Bảng 2.6 sau đây. 63 Bảng 2.5. Kết quả thử nghiệm sự thay đổi các độ đo đánh giá hiệu năng 1 Thuật toán POSBAR Thuật toán GDBAR STT Bộ số liệu U C R    R    1 Hepatitis.data 155 19 3 0.909 0.819 0.598 3 0.909 0.819 0.504 2 Lung-cancer.data 32 56 4 1 1 0.814 4 1 1 0.814 3 Automobile.data 205 26 4 0.825 0.702 0.708 6 0.915 0.781 0.624 4 Anneal.data 798 38 6 0.804 0.713 0.586 7 0.852 0.755 0.503 5 Congressional Voting Records 435 16 15 1 1 0.616 15 1 1 0.616 6 Credit Approval 690 15 3 0.716 0.708 0.786 5 0.884 0.802 0.615 Bảng 2.6. Kết quả thử nghiệm sự thay đổi các độ đo đánh giá hiệu năng 2 Thuật toán MBAR Thuật toán DFBAR STT Bộ số liệu U C R    R    1 Hepatitis.data 155 19 4 0.909 0.819 0.415 5 0.909 0.81

Các file đính kèm theo tài liệu này:

  • pdftv_rut_gon_thuoc_tinh_trong_bang_quyet_dinh_khong_day_du_theo_tiep_can_tap_tho_dung_sai_056_1920134.pdf
Tài liệu liên quan