Khóa luận Phân biệt nhập nhằng tên người trong hệ thống tìm kiếm thực thể

rọng để thực hiện các bài toán quan trọng tiếp theo trong lĩnh vực xử lý ngôn ngữ tự nhiên như dịch máy, tóm tắt văn bản…Các hướng nghiên cứu giải quyết vấn đề này rất đa dạng bao gồm học giám sát (supervised learning), học bán giám sát (semi- supervised learning) và học không giám sát (unsupervised learning)... Bài toán phân biệt nhập nhằng tên và nhập nhằng nghĩa đều có mục đích là giải quyết nhập nhằng trong xử lý ngôn ngữ tự nhiên. Tuy nhiên bài toán WSD giải quyết với một lớp rộng các từ: danh từ, tính từ, động từ, trạng từ…Khác biệt đầu tiên là sự khác biệt nghĩa của từ là khá tinh tế, có những nghĩa rất gần nhau nhiều khi với chính con người điều này rất khó khăn để nhận biết. Trái lại, với vấn đề tên người, sự phân biệt rất rõ ràng. Khác biệt thứ hai là WSD thường làm việc với từ điển chứa một số lượng nhỏ các nghĩa ứng với một từ. Nhưng với bài toán phân biệt tên người thì số lượng người khác nhau lại không được biết trước và số lượng trung bình cho mỗi tên cao hơn nhiều so với số lượng nghĩa cho mỗi từ ( Có khoảng 90000 tên được chia sẻ bởi 100 triệu người theo US Census Bureau) Chính vì số lượng tên người không biết trước nên việc xây dựng tập đặc trưng cho từng người là một điều vô cùng khó khăn. Do đó hầu hết các các tiếp cận giải quyết vấn đề này chủ yếu dựa trên phương pháp học không giám sát. 1.2.3. Phương pháp đánh giá Trong khóa luận này, chúng tôi sử dụng phương pháp đánh giá của hội nghị WePS-1 2007 (Hội nghị lớn nhất về các vấn đề trong tìm kiếm thực thể người. Đến thời điểm này hội nghị đã tổ chức đến WebPS-3 tập trung vào hai nhiệm vụ trọng tâm là trích xuất thuộc tính về người và phân biệt nhập nhằng tên người và tên các tổ chức) dựa trên độ tinh khiết (purity), độ nghịch đảo tinh khiết (inverse purity) và độ đo F. Các độ đo được định nghĩa như sau: Gọi C là tập các cụm cần đánh giá, L là tập hợp các mục (categories) được gán nhãn bằng tay (các mục ứng với những người khác nhau) và n là số lượng các văn bản được phân cụm. Độ tinh khiết được tính dựa trên việc lấy trung bình có trọng số độ chính xác: (1.1) 11 Độ nghịch đảo tinh khiết tập được tính bởi công thức : (1.2) Trong đó: Độ chính xác ứng với cụm C i với mỗi mục L j được định nghĩa như sau: Precision (C i , L j ) = | C i ∩ L j | / | C i | (1.3) Độ đo F được tính theo công thức: (1.4) Hệ thống thường sử dụng α = 0.5 và α = 0.2. Tóm tắt chương một Trong chương này, khóa luận giới thiệu khái quát về hệ thống tìm kiếm thực thể và bài toán giải quyết nhập nhằng tên người trên tập tài liệu, vai trò của bài toán đối với hệ thống tìm kiếm thực thể người. Khóa luận cũng trình bày mối liên hệ của bài toán với bài toán phân biệt nhập nhằng nghĩa của từ, và phương pháp đánh giá cho bài toán. Trong chương tiếp theo, khóa luận nêu ra một số phương pháp giải quyết được áp dụng thành công trong lĩnh vực này. 12 Chương 2. Phương pháp giải quyết bài toán nhập nhằng tên người trên tập văn bản Trong chương này, khóa luận trình bày một số nghiên cứu trên thế giới về giải quyết nhập nhằng tên người trên tập văn bản. Vấn đề này được thực hiện trên nhiều miền lĩnh vực khác nhau từ phân biệt các tác giả trong các công trình khoa học, tên người được đề cập đến trong các nhật báo, và những người nổi tiếng trên môi trường WWW…Và mỗi miền ứng dụng khác nhau, các cách tiếp cận khác nhau được đề xuất nhằm lấy ra những đặc trưng được coi là tiêu biểu nhất cho ngữ cảnh. Ở hầu hết các công trình đều sử dụng giả thiết rằng, tất cả các tên giống nhau được đề cập trong một văn bản đều chỉ nói tới một người duy nhất. Vì vậy công việc phân biệt nhập nhằng tên người chuyển về bài toán phân cụm ngữ cảnh, trong đó những văn bản đề cập tới một người được nhóm vào một cụm, văn bản đề cập đến những người khác thì thuộc cụm khác và mỗi văn bản chỉ được thuộc về một cụm duy nhất. 2.1. Tiếp cận dựa trên thực thể định danh Vào năm 1998, Bagga và Breck Baldwin [6] giới thiệu phương pháp giải quyết bài toán phân biệt nhập nhằng tên người bằng cách xây dựng ngữ cảnh dựa trên tập thực thể định danh xuất hiện trong câu chứa tên người bằng mô hình không gian vector. Phương pháp này được thực nghiệm trên tập dữ liệu gồm 197 bài báo từ năm 1996 đến 1997 của tạp chí New York Times. Mô tả phương pháp của Bagga như sau: Bước 1 : Đầu tiên với mỗi bài báo được đưa vào, phần mềm CAMP sẽ xử lý những bài báo này. Kết quả của quá trình xử lý là một chuỗi các thực thể và các tham chiếu của nó trong văn bản.(Hệ thống CAMP của trường đại học Pennsylvania giải quyết bài toán đồng tham chiếu trong một văn bản cho các lớp khác nhau như đại từ, danh từ riêng [8]. Kết quả của hệ thống CAMP là một chuỗi các thực thể có tên xuất hiện trong văn bản và các tham chiếu tới nó tương ứng trong văn bản đó) Ví dụ: Với văn bản đầu vào: Văn bản doc.36 John Parry, of Weston Golf Club, announced his regination yesterday. He was President of Massachusetts Golf Association. During his two years, Perry guided the MGA into a closer relationship with Woment’s Golf Association of Massachusetts. 13 Văn bản doc.38 Oliver “Biff” Kelly of Weymonth succeeds John Perry as President of Massachusetts Golf Association. “We will haved continues growth in the future” said Kelly, who will serve for two years. “There’s been a lot of changes and there will be continued change as we head into the year 2000” Kết quả của bước này đối với văn bản doc.36 là một chuỗi như sau: Hình 2.1 – Kết quả phân tích đồng tham chiếu văn bản doc.36 Kết quả của bước này đối với văn bản doc.38: Hình 2.2 – Kết quả phân tích đồng tham chiếu văn bản doc.38 Bước 2 : Với mỗi chuỗi đồng tham chiếu cần được quan tâm ( ví dụ chuỗi đồng tham chiếu ứng với “Jonh Perry” ) , module “Sentence Extractor” sẽ trích xuất ra tất cả những câu chứa cụm danh từ trong chuỗi đồng tham chiếu trong văn bản. Hay nói cách khác, module này sẽ thực hiện công việc tạo ra một bản tóm tắt biểu diễn chuỗi thực thể của mỗi bài báo hướng về thực thể được quan tâm. Do đó với văn bản doc.36, vì ít nhất một trong 3 cụm danh từ trong chuỗi đồng tham chiếu ( “John Parry”, ”He”, Oliver “Biff” Kelly John Parry Massachusetts Golf Association Kelly John Parry Weston Golf Club Massachusetts Golf Association Woment’s Golf Association He Perry 14 ”Perry” ) đều xuất hiện trong các câu của văn bản , nên phần tóm tắt được sinh bởi module “Sentence Extractor” chính là phần trích xuất được. Còn với văn bản doc.38 phần tóm tắt chỉ là câu đầu tiên của phần trích xuất được bởi vì chỉ có duy nhất 1 thành phần duy nhất “John Parry” xuất hiện ở câu này. Bước 3 : Với mỗi bài báo, hệ thống sử dụng mô hình biểu diễn không gian vector (Vector Space Model) tính độ tương đồng giữa các bài báo này. Với mỗi bản tóm tắt có được từ bước trước, các từ dừng được lọc bỏ, các từ khác được phân tích hình thái để đưa về dạng ban đầu, và được biểu diễn bằng mô hình vector. Độ tương đồng vượt trên một ngưỡng thì 2 bài báo được coi là cùng nói về một người. Cụ thể như sau: 1S và 2S là 2 vector cho 2 bản tóm tắt được trích xuất từ các bài báo 1D và 2D , độ tương đồng của chúng được tính như sau: Sim( 1S , 2S ) = j t j ww j 21 *∑ (2.1) Trong đó jt là thành phần chung của 2 vector 1S , 2S . jw1 là trọng số của jt trong 1S và jw2 là trọng số của jt trong 2S . Trọng số jt của vector Si được tính như sau: ijw = 22 2 2 1 .. log* inii sss df Ntf +++ (2.2) Trong đó tf là tần số của jt trong phần tóm tắt. N là số lượng văn bản. 2.2. Tiếp cận dựa trên từ khóa Trong bài báo năm 2006, Danushka Bollengala [9] trình bày một thuật toán học không giám sát tạo ra những cụm từ khóa duy nhất để phân biệt những người khác nhau có cùng tên. Thuật toán nhận đầu vào là tên một người và cho ra kết quả là tập các cụm từ khóa duy nhất thể hiện cho những người khác nhau. Các cụm từ này sau đó có thể được bổ sung vào truy vấn để làm hẹp miền tìm kiếm do đó tăng độ chính xác cho các kết quả tìm kiếm. Phương pháp được áp dụng cho miền dữ liệu các tên nhà khoa học trên dữ liệu Web. Lược đồ hệ thống được mô tả như sau 15 Hình 2.3 - Lược đồ hệ thống phân biệt nhập nhằng tên người dựa trên từ khóa Những module chính của hệ thống: Bước 1: Thu thập web chứa tên cần phân biệt nhập nhằng (Download Web Pages) Bước này hệ thống sử dụng máy tìm kiếm Google, các truy vấn sẽ được đưa vào máy tìm kiếm và lấy ra 100 kết quả đầu tiên cho mỗi tên cần phân biệt nhập nhằng. Bước này có thể bỏ qua nếu như đã có sẵn một tập tài liệu chứa tên nhập nhằng. Bước 2: Trích xuất các “term” quan trọng (Extract Terms) Ở bước này mô hình dựa trên giả thuyết là: Nếu sự xuất hiện của các tên nói về cùng một người thì ngữ cảnh xung quanh chúng là giống nhau. Và điều này dẫn đến là nếu 2 tên có ngữ cảnh xuất hiện giống nhau thì khả năng cao là chúng đề cập đến cùng một người. Do đó, hệ thống cần phải chọn được những đặc trưng mang thông tin tốt nhất cho ngữ cảnh tên người xuất hiện. Mô hình “Term” (Term Model) được đề xuất cho việc thể hiện ngữ cảnh của mỗi tên. Mô hình T(A) = t1 , t 2 ,… t N của một tên A được định nghĩa như một tập hợp các “term” được trích xuất từ ngữ cảnh của tên. Các “term” được trích xuất tự động sử dụng thuật toán C-Value. Thuật toán C-Value kết hợp thông tin về ngôn ngữ và thông tin về thống kê. Thông tin về ngôn ngữ bao gồm việc gán nhãn từ loại, lọc bỏ từ dừng, và sử dụng một số mẫu về ngôn ngữ để thành lập các cụm danh từ. Ví dụ như: có mẫu một số tính từ đứng trước danh từ thì chúng và danh từ đó tạo thành cụm danh từ. Các thông tin về thống kê cho phép loại bỏ các cụm từ ít mang lại thông tin cho ngữ cảnh của tên. Khái niệm “termhood” (mức độ một cụm danh từ trở thành “term”) được đánh giá dựa trên C-value[14,15]. Giá trị của C-value được tính như sau: 16 (2.3) Trong đó: a là ứng viên. f(a) là tần số của ứng viên trong văn bản. |a| là độ dài của a. T a là tập các cụm từ chứa a. P(T a ) là số lượng cụm từ T a . Bước 3 : Thu thập snippet (Download snippets). Việc phân biệt nhập nhằng tên dựa vào độ tương đồng ngữ cảnh. Việc tính độ tương đồng dựa trên so khớp “term” là rất khó, vì các “term” có sự lặp lại rất ít. Ví dụ: “term” “George Bush” và “term” “The president of the United States” dù gần nhau về mặt ý nghĩa nhưng lại không có từ nào lặp lại trong nhau. Vì vậy hệ thống tính toán độ tương đồng giữa 2 “term” sử dụng “snippet” được trả về bởi máy tìm kiếm.( “Snippet” là một mẩu văn bản nhỏ, chứa 2 hay 3 câu được trích xuất từ văn bản cho câu truy vấn, và thường đi kèm với các kết quả tìm kiếm của các máy tìm kiếm) Ví dụ: với trường hợp của “George Bush” và “The president of the United States”, trong số 5 “snippet” được trả về bởi máy tìm kiếm Google, có nhiều từ chung như “President”, “White House”, “Official” , “and”, “site”. Đối với mỗi “term” ta xây dựng phân bố (distribution) của các từ trong các “snippet” của “term”. Tần suất xuất hiện mỗi từ được chia cho tổng số từ trong các “snippet”. Sau đó hệ thống tính toán độ phân kỳ (divergence) KullBack-Liebler (KL), như độ đo tương tự giữa 2 “term”. Với 2 phân bố xác suất p(x) và q(x) của biến xác suất ngẫu nhiên x ∈ X độ phân kỳ KullBack-Liebler được định nghĩa như sau: D(p||q) = ∑ ∈Xx xq xpxp )( )(log)( (2.4) Trong đó X là tập từ vựng. KL-divergence sẽ trở nên không xác định khi có những từ có xác suất bằng 0. “Skew divergence” S α (p,q)được dùng để giải quyết vấn đề này S α (p,q) = D(q||α p + (1 - α )q ) (2.5) C-value(a) = log 2 |a|*f(a) nếu a nằm trong “term” khác log|a|(f(a) - ∑ ∈ aTba bf TP )( )( 1 ) trường hợp ngược lại 17 Trong đó ⊂α [0,1] là mức độ thiên lệch giữa hai phân bố p và q. Để chuyển từ “Skew divergence” bất đối xứng sang độ đo đối xứng sim(p,q) ta sẽ lấy giá trị phân tán trung bình (average diverge): sim(p,q) = exp(- 2 1 (S α (p,q) + S α (q,p)) (2.6) Trong phần cài đặt hệ thống lấy 100 “snippets” từ Google và α = 0.9 Bước 4: Tính toán độ tương đồng (Calculate similarity) Lấy T(A) = {a1 , a 2 , a 3 ,…, a n } là mô hình “term” cho văn bản A và T(B) = { b1 , b 2 , b 3 ,…, b m } là mô hình “term” cho văn bản B. Ở đây a1 , a 2 , a 3 ,…, a n là các term trích xuất từ văn bản A, và b1 , b 2 , b 3 ,…, b m là các term trích xuất từ văn bản B. Chúng ta định nghĩa độ tương đồng DocSim(A,B) giữa A và B sử dụng mô hình T(A) và T(B) như sau: DocSim(A,B) = mn 1 ),( ; j ba i basim ji ∑ (2.7) a i ∈ A , b j∈ B. Ở đây sim(a i , b j) được tính ở công thức (2.6) Bước 5 : Phân cụm văn bản : Hệ thống sử dụng phương pháp phân cụm trung bình nhóm (Group-average agglomerative clustering (GAAC)) để phân cụm các văn bản chứa tên xuất hiện. Đây là phương pháp phân cụm phân cấp từ dưới lên. Ban đầu mỗi văn bản được gán là một cụm riêng rẽ. GAAC tại mỗi vòng lặp trộn 2 cụm mới thỏa mãn cực đại hóa giá trị C (2.8) Trong đó |Γ | là số văn bản trong cụm và u, v là 2 văn bản trong cụm Γ . Bước 5: Lựa chọn số cụm. Trong trường hợp tốt nhất, chọn được số cụm bằng chính số người có trùng tên. Tuy nhiên, số người là không biết trước nên bài toán tìm số cụm chuyển về bài toán tối ưu hóa: Cực đại hóa độ tương đồng các văn bản trong cụm. Cực tiểu hóa độ tương đồng văn bản ở các cụm khác nhau. Trong bài báo này tác giả cố gắng tìm số cụm để thỏa mãn 2 điều kiện trên bằng độ đo liên kết trong cụm và độ tương tác ngoài. Bước 6: Lựa chọn các “term” đại diện cho các cụm. Thuận toán GAAC tạo ra một tập các cụm đại diện cho những người khác nhau. Để lựa chọn từ khóa giúp nhận dạng một cách duy nhất cho mỗi người, đầu tiên hệ thống sẽ lấy ra tất cả những “terms” trong mô hình “term” như là những từ khóa giúp nhận diện duy nhất một người. Sau đó trong những “term” này lấy ra những “term” có tính phân biệt cao nhất cho mỗi người. Quá trình được thực hiện qua 2 bước. Bước đầu 18 tiên sẽ giảm bớt số “term” trong môt cụm bằng cách bỏ những “term” mà nó cũng xuất hiện trong cụm khác. Bước thứ hai, lựa chọn các term trong mỗi cụm dựa vào độ tương đồng với tên được đưa vào tìm kiếm ban đầu, và lựa chọn những “term” có độ tương đồng cao nhất. 2.3. Tiếp cận dựa trên kỹ thuật trích xuất thông tin Năm 2003, S.Mann và David Yarowsky [13] giới thiệu một thuật toán không giám sát hiệu quả để phân biệt nhập nhằng tên người. Phương pháp này dựa trên kỹ thuật trích xuất thông tin sử dụng thuật toán không giám sát để sinh tự động mẫu trích xuất của Ravichan và Hovy [11] và thuật toán phân cụm phân cấp. Việc sử dụng kỹ thuật trích xuất thông tin giúp làm giàu đặc trưng cho người bằng các thuộc tính cá nhân như : ngày sinh, nghề nghiệp, nơi làm việc, quốc tịch, nơi ở. Tác giả đã kết hợp và so sánh kết quả của việc kết hợp các thuộc tính cá nhân và các đặc trưng khác như: các từ trong văn bản, danh từ riêng, đặc trưng mở rộng. Mô hình tác giả đưa ra gồm 2 pha chính: ™ Pha 1: Sử dụng kỹ thuật trích xuất thông tin để trích xuất các thuộc tính đặc trưng mạnh cho người cần phân biệt. Trong pha 1 chia làm 2 bước nhỏ: Bước 1: Sinh mẫu trích xuất đặc trưng. Hệ thống sử dụng và mở rộng phương pháp của Ravichan và Hovy [11]. Phương pháp này dựa trên kỹ thuật boot-trapping, tự động sinh mẫu từ tập nhân mồi ban đầu. Nó có lợi thế là không phụ thuộc vào ngôn ngữ (independent language) , vì vậy mà nó rất khả chuyển có thể sinh mẫu cho các ngôn ngữ khác nhau với độ chính xác cao. Ví dụ với tập nhân ban đầu là (‘Mozart’,1756) Hệ thống sẽ sinh ra một truy vấn đưa vào máy tìm kiếm để tìm ra những câu chứa cặp nhân trên. Ví dụ với máy tìm kiếm Altavista truy vấn là “Mozart”+ “1976. Sau đó chỉ giữ lại nhưng câu chứa đủ cả cặp nhân. Tất các các sâu con chứa cặp nhân này trong mỗi câu được lấy ra. Những sâu con này được đơn giản hóa bằng cách thay các nhân bằng nhãn của nó. Trong trường hợp này ta thay ‘Mozart’ bằng và 1976 bằng . Tất cả những chữ số khác được thay bằng dấu #. Từ tất cả các chuỗi này ta xây dựng nên cây hậu tố (suffix-tree), và chỉ giữ lại những chuỗi con có tần xuất xuất hiện cao. Với mỗi chuỗi con có tần số cao này lại lọc ra chỉ chọn những chuối chứa đủ tập nhân ban đầu là ‘Mozart’ và 1756, khi đó chúng sẽ trở thành những mẫu tiềm năm. 19 Những mẫu tiềm năng được kiểm tra xem nó có thực sự đáng tin cậy hay không, bằng cách áp dụng nó với các tập nhân khác, nếu kết quả vượt trên một ngưỡng nào đó thì có thể coi là tin cậy. Khi áp dụng mô hình trên hệ thống thu được các mẫu với quan hệ tên và ngày ngày sinh: Hình 7 - Các mẫu trích xuất sinh tự động cho ngày sinh Hệ thống sử dụng phương pháp trên cho việc sinh mẫu tự động cho năm sinh và nghề nghiệp và sinh mẫu bằng tay cho thông tin về nơi sinh, ngày sinh, quốc tịch, gia đình, đồng nghiệp. Bước 2: Áp dụng mẫu có được ở bước 1 để trích ra các đặc trưng quan trọng cho người. ™ Pha 2: Sử dụng kỹ thuật phân cụm phân cấp dựa trên các đặc trưng có từ pha 1 chia các tài liệu thành các cụm, các tài liệu trong một cụm nói về một người duy nhất. Hệ thống sử dụng thuật toán phân cụm phân cấp từ dưới lên. Trong thuật toán này, mỗi văn bản sẽ được coi như một vector của các đặc trưng trích chọn được từ văn bản. Tại mỗi giai đoạn của quá trình phân cụm, 2 vector tương đồng nhất sẽ được trộn 20 lại với nhau tạo ra một cụm mới, và vector mới cho cụm đó tương đương với trung bình của các vector trong cụm. Quá trình này tiếp tục cho đến khi chỉ còn 1 cụm duy nhất. Vector đặc trưng cho mỗi văn bản được sinh ra theo những phương pháp sau: • Baseline: Tất cả các từ hoặc chỉ danh từ riêng. • Most Relevant words : Những từ liên quan nhất. • Biographical features: Các thông tin đặc trưng hồ sơ người dùng. • Extend Biographical features: Các thông tin đặc trưng mở rộng hồ sơ người dùng. - Với phương pháp Baseline, hệ thống sử dụng tất cả các từ trong văn bản (loại bỏ từ dừng), hoặc chỉ danh từ riêng. Sau đó biểu diễn dưới dạng mô hình vector và độ đo cosin để tính độ tương đồng. - Với phương pháp dùng những từ liên quan nhất, hệ thống thử nghiệm cả việc đánh trọng số của từ trong mô hình vector theo cả độ đo tf-idf và độ đo tương tác thông tin (mutual information) I(w;c) = )( )|( wp cwp (2.9) Trong đó c là tập hơn văn bản và w là từ cần đánh trọng số Trọng số của từ trong mô hình vector là log(I(w;c)) - Với phương pháp dùng các thông tin đặc trưng hồ sơ người dùng, hệ thống dùng phương pháp sinh mẫu trích xuất không giám sát để trích ra. - Với phương pháp dùng thông tin đặc trưng mở rộng hồ sơ người dùng: đối với những từ thỏa mãn mẫu trích xuất sẽ được gán trọng số cao hơn, ví dụ năm 1756 thỏa mãn mẫu trích xuất về ngày sinh thì với các sự xuất hiện khác của 1976 sẽ được đánh trọng số rất cao. Khi phân cụm, hệ thống sử dụng những thông tin về người dùng như những hạt giống để chia các cụm thành các nhóm. Tiếp theo dựa trên các đặc trưng còn lại, để thực hiện phân cụm phân cấp từ dưới lên. 2.4. Một số cách tiếp cận khác Năm 2005, Malin [16] đưa ra một cách giải quyết bài toán phân biệt nhập nhằng tên người dựa trên lý thuyết đồ thị. Bài toán này áp dụng với cơ sở dữ liệu phim Internet (Internet Movie Database – IMDB). Trong đó, tên của diễn viên được biểu diễn bởi một đỉnh, và cặp nối giữa 2 đỉnh hay giữa 2 diễn viên biểu thị cho mối quan hệ là họ đóng trong cùng một phim. Sau đó đồ thị này được sử dụng phân biệt các đỉnh có cùng tên bằng cách phân tích những đỉnh hàng xóm của chúng. 21 Trong các bài báo của tác giả Elmacioglu [12] và Reema [17] các tác giả bổ sung thêm những đặc trưng về liên kết cho việc tính tương đồng giữa ngữ cảnh nơi tên người xuất hiện. Reema cho rằng nếu 2 trang Web chứa tên người thuộc cùng về một domain thì khả năng cao là 2 tên đó cùng chỉ về một người, và loại trừ những trang web thuộc về mạng xã hội vì chúng nằm ngoài giả định này. Elmacioglu biễu diễn các liên kết bằng mô hình vector, trong đó mỗi liên kết là một chiều và trọng số được đánh số theo phương pháp tf-idf. Trong hệ thống PNUS, Elmacioglu còn khai thác thêm tính giàu thông tin của địa chỉ url theo phương pháp của hệ thống MeURL[17]. Ví dụ địa chỉ url có dạng: “” tự nó gợi ý rằng đây là trang chủ của tác giả Lindek tại ngành khoa học máy tính, đại học Alberta, Canada. Tóm tắt chương hai Trong chương hai, khóa luận giới thiệu chi tiết các phương pháp tiêu biểu trên thế giới để giải quyết vấn đề phân biệt nhập nhằng tên người trên tập văn bản. Các phương pháp tập trung vào việc thể hiện ngữ cảnh nơi mà tên người và xuất hiện và đo độ tương đồng giữa các ngữ cảnh này và cuối cùng là phân cụm ngữ cảnh hay phân cụm văn bản chứa ngữ cảnh. Một điều dễ nhận thấy là các phương pháp này đều phụ thuộc rất nhiều vào miễn dữ liệu để có được kết quả chính xác. Trong chương tiếp theo, khóa luận sẽ tập trung vào việc khai thác những đặc trưng của miền dữ liệu khóa luận thực hiện là các trang Web tin tức của các báo điện tử Việt Nam để xây dựng nên ngữ cảnh tên người và đề xuất mô hình cho việc giải quyết nhập nhằng tên người trên tập văn bản, ứng dụng của nó trong hệ thống tìm kiếm thực thể người. 22 Chương 3: Mô hình hệ thống phân biệt nhập nhằng tên người 3.1. Cơ sở thực tiễn Như đã trình bày ở phần trên, mỗi phương pháp được đưa ra chỉ khả thi trên một miền dữ liệu nhất định và phần lớn là trong ngôn ngữ tiếng Anh, chưa có một phương pháp nào áp dụng trên nhiều miền dữ liệu. Vì vậy, việc nghiên cứu miền dữ liệu rất quan trọng để đưa ra một phương pháp đúng đắn trên miền đó. Khóa luận này thực hiện công việc phân biệt nhập nhằng tên người trên miền dữ liệu báo điện tử Việt Nam, nên cần việc phân tích những đặc trưng về ngôn ngữ và hình thức của báo điện tử là rất cần thiết. Ví dụ một bản tin về giáo sư “Nguyễn Hữu Đức”-Phó giám đốc đại học Quốc Gia Hà Nội. Hình 8 - Đoạn trích từ bài báo “Năm 2010: ĐH Quốc gia Hà Nội tuyển sinh 5.500 chỉ tiêu” Phương pháp của S.Mann và David Yarowsky [13] sử dụng việc sinh mẫu trích xuất không giám sát để trích ra các thông tin quan trọng liên quan đến thực thể người như ngày sinh, nơi sinh, nghề nghiệp…Rõ ràng là với miền dữ liệu báo điện tử Việt Nam những thông tin như vậy là rất hiếm và việc sinh mẫu bắt được thông tin là không hề đơn giản vì tính đa dạng cấu trúc của tiếng Việt. Phương pháp của Bagga và Breck Baldwin [6], sử dụng khử đồng tham chiếu và xây dựng vector thực thể biễu diễn ngữ cảnh của tên người, tuy nhiên có một số vấn đề là khi thực hiện trên miền dữ liệu báo điện tử Việt Nam: thứ nhất là ngôn ngữ tiếng Việt chưa có một công cụ nguồn mở nào cho việc thực hiện khử đồng tham chiếu, thứ hai là khi một người tham gia vào những hoạt động khác nhau thì tập thực định danh thể biểu diễn ngữ cảnh của người đó cũng rất khác nhau do đó nếu biễu diễn bằng mô hình vector thì vector sẽ bị thưa với nhiều phần từ bằng 0 và độ tương đồng thấp, gây sai lệch kết quả. Miền dữ liệu báo điện tử Việt Nam có một số đặc điểm phục vụ cho việc phân biệt nhập nhằng tên người như sau: 23 Đặc trưng thứ nhất: Trong bài báo,thường có có một câu giới thiệu chi tiết đầy đủ về thông tin một người ở phần đầu bài báo. Đây là những thông tin mang tính định danh mạnh nhất cho một người nào đó, chúng rất có ý nghĩa trong việc phân biệt tên người. Hình 9 - Đoạn trích từ bài báo “Cá ngừ độc là do chứa histamin tự do” Như ví dụ ở trên, chức danh và địa chỉ công tác của một người có tên là “Nguyễn Hữu Đức” xuất hiện đầy đủ trên câu đầu tiên của bài báo. Qua khảo sát 1000 trang Web, chúng tôi thấy đặc trưng trên xuất hiện rất phổ biến trên miền dữ liệu báo chí điện tử. Đặc trưng thứ hai: Một đặc trưng về mạng xã hội. Nếu hai bài báo chứa tên nhập nhằng, mà có từ 2 tên người chung nhau (khác với tên nhập nhằng) trở lên thì khả năng rất lớn là hai bài báo đó cùng nói về một người. Nó có thể hiểu như một dạng quan hệ xã hội. Hình 10 - Trích từ bài báo “11 giám đốc bưu điện đồng loạt hầu tòa” từ trang vnexpress.net 24 Hình 11 - Trích từ bài báo “Siêu lừa Nguyễn Lâm Thái có dấu hiệu tâm thần” từ trang vnexpress.net Trong 2 bài báo trên, tên người “Nguyễn Hữu Đức” xuất hiện cùng 2 tên người khác là “Ngô Quang Thạch” và “Nguyễn Thị Tuyết”, và trong thực tế thì 2 bài báo này cùng nói về một người. 3.2. Cơ sở lý thuyết 3.2.1. Mô hình không gian vector Mô hình biểu diễn vector [1] là một mô hình truyền thống cho việc đo độ tương đồng giữa hai văn bản. Theo mô hình này, mỗi văn bản được biểu diễn bởi một không gian nhiều chiều, trong đó mỗi chiều tương ứng với một từ trong văn bản. Một từ với độ quan trọng được xác định bằng một phương pháp đánh chỉ số trong văn bản, và giá trị được chuẩn khóa trong khoảng [0,1]. Ví dụ hình mô tả hai văn bản d1 và d 2 được biểu diễn bởi các vector v1 và v 2 gồm ba chiều T1 , T 2 , T 3 25 Một số phương pháp