Luận văn Ứng dụng mạng nơ - Ron trong hệ thống nhận dạng cảm xúc dựa trên tín hiệu điện não

c điều 16 khiển bằng sóng não mà không cần dùng cơ bắp hay giọ g ói. Xe ă rẽ trái, rẽ phải, tiến và dừng l i đ ợc thực hi th g qua suy ghĩ của co g i. Công ty Emotiv Limited là một trong những công ty của M thành công trong vi c nghiên cứu chuyên sâu về só g đi ão v đã có sản ph m bán ra thị tr ng. Sản ph m của công ty là một mũ poc có chức ă g thu hậ só g đi n não, kết hợp với Epoc là bộ th vi n EDK (Emotiv development kit), bộ th vi n này có khả ă g thu nhận và x lý rất t t tín hi u sóng não của co g i và có khả ă g ứng d ng rất nhiều tro g các ĩ h vực giáo d c, y tế, an ninh qu c phòng. H nh 1 10 Ứng dụng tín hiệu điện n o trong quân đội. 1.3.1 Nguyên l nhận dạng cảm xúc dựa trên tín hiệu điện não. Có nhiều nghiên cứu tr ớc đây về vi c nhận d ng cảm xúc dựa trên tín hi u só g đi n não và có một s công trình nghiên cứu liên quan về b i toá đã đ ợc công b . K. Ishi o et a đề xuất h th ng nhận d ng cảm xúc với độ chính xác 54.4% cho cảm xúc vui, 67.7% cho tức giận, 59% cho buồn và 62.9% cho th giã . Berkman et al s d ng m g ơ-tro để dự đoá cảm xúc tích cực và tiêu cực với độ chí h xác 43%. Li et a đã phát triể ph ơ g pháp phâ o i đa ớp SVM (multi-class support vector machine) cho bài toán nhận d ng cảm xúc. Kết quả thu đ ợc với độ chính xác trung bình 82.37% cho các cảm xúc vui, buồn, tức giận và thoải mái. Chanel et al s d g ph ơ g pháp phâ o i Naïve ayes v đ a ra độ 17 chính xác lớn t t nhất khoảng 58% cho ba lo i cảm xúc th giã , h nh phúc, bình th g . Ph ơ g pháp phâ lo i SVM cũ g đ ợc s d ng cho vi c phân lo i cảm xúc với độ chí h xác 32% cho Va e ce v 37% cho rousa . Tro g đó, Va e ce thể hi n sự biến thiên của cảm xúc từ tiêu cực đến tích cực và Arousal thể hi n sự biến thiên từ bì h tĩ h đến kích thích. Gầ đây, Y. Liu et a đ a ra m hì h hận d ng dựa trên lý thuyết về phân d ng (FD-fractal dimension). Họ cũ g chỉ ra rằng mô hình phân d g cho độ chí h xác cao hơ tro g hâ d ng cảm xúc dựa trên EEG. Mô hình họ đề xuất có thể nhận d g đ ợc sáu cảm xúc cơ bản h buồn, vui, lo sợ, thoải mái, h nh phúc, và thất vọng. Hì h 1. 11 Ứng d ng tín hi u đi ão tro g hậ di cảm xúc Hi n có nhữ g h ớng tiếp cận khác nhau cho bài toán nhận d ng cảm xúc. Do vậy tồn t i nhiều mô hình nhận d ng cảm xúc khác nhau. Nhóm phát triển mô hình dựa trên mô hình cảm xúc Russell, thuật toá H v ph ơ g pháp phâ o i SVM. Kết quả thực nghi m chỉ ra rằng mô hình có thể nhận d g đ ợc sáu nhãn cảm xúc cơ bản (vui, tức giận, buồ , th giã , bì h th ng và buồn ngủ) với độ chính xác tru g bì h 81%. Th m v o đó, m hì h có thể m rộng áp d ng cho một lớp đ i t ợng thay vì cho từng cá nhân riêng bi t. 18 H nh 1 12 Hệ thống nhận dạng cảm xúc Trong báo cáo nay thiết bị thu nhận tín hi u đi n não là thiết bị phần cứng Emotiv, các ho t độ g i qua đến vi c thu thập tín hi u só g đi n não từ đầu TNV đều s d ng thiết bị Epoc của công ty Emotiv. Thiết bị này gồm hai thành phần, một thành phần có d g h một chiếc mũ để đặt l đầu g i dùng (hình d ới), một thành phần gắn với c ng USB của máy tí h để đảm nhận vi c truyền tín hi u từ chiếc mũ đế máy tí h th g qua só g Wifi. Mũ poc bao gồm 14 đi n cực t ơ g ứng với 14 vị trí để thu thập tín hi u só g đi ão tr đầu g i dùng. Khi s d g, để nhậ đ ợc tín hi u só g đi n phát ra từ ão g i, các đi n cực này phải đ ợc làm m bằng dung dịch đi èm với thiết bị. 19 1 3 2 C c h ớng tiếp cận trong nhận dạng cảm xúc dựa trên tín hiệu điện não. H nh 1 13 Thiết bị phần c ng Emotiv Tín hi u thu đ ợc từ mũ trả ra d ới d ng t p tin .edf, có thể s d g ch ơ g trì h Test e ch đi èm gói thiết bị để xem trực tiếp hay xem l i chuỗi tín hi u só g đi n não biế đ i theo th i gia . ể ti n cho vi c tính toán và s lý tín hi u, gói thiết bị có sẵ ch ơ g trì h để chuyển t p .edf sang t p .csv. Cảm xúc đi cù g với mỗi g i trong cuộc s g h g g y v đó g một vai trò quan trọng trong giao tiếp phi ngôn ngữ của co g i. ó một trong những điều ki n quan trọ g để hiểu đ ợc các hành vi ứng x của co g i. Chính vì thế mà bài toán nhận d ng cảm xúc của co g i tuy là một b i toá hó h g đ ợc rất nhiều các nhà khoa học quan tâm nghiên cứu. Tr ớc đây, vi c nhận d ng cảm xúc có thể đ ợc thực hi n thông qua vă bản, hội tho i, c chỉ cơ thể và biểu hi n khuôn mặt. Tuy hi , tro g xu h ớng phát 20 triển của co g i, các h th ng nhận d ng cảm xúc thông qua những tín hi u “b tro g” h só g đi n não (Electro EncephaloGraphy - EEG) sẽ tr nên cần thiết, quan trọng và t o ra sự phát triển m nh mẽ không ngừng của các ứng d g t ơ g tác Não - Máy (Brain Computer Interface - CI , đặt co g i vào vị trí trung tâm của m i t ơ g tác s trong kỷ nguyên hi đ i. Hi n nay có nhiều h ớng nhận d ng cảm xúc khác nhau, chủ yếu là sự tồn t i của nhiều mô hình cảm xúc hác hau. Các m hì h t ợ g tr g cho mỗi phát hi đặc điểm nhận d ng cảm xúc khác nhau. Tiêu biểu hơ cả là nhóm nhận d ng cảm xúc dựa trên mô hình cảm xúc Russell, thuật toá H v ph ơ g pháp phâ o i SVM. a) Mô hình cảm xúc Russell. Hi n nay, có nhiều mô hình cảm xúc đ ợc đ a ra dựa trên các nghiên cứu về thần kinh học. Nhìn chung, những mô hình này có thể chia thành hai nhóm chính. Nhóm thứ nhất là các mô hình cảm xúc r i r c. Những mô hình này có một vài cảm xúc chí h h tức giận, sợ hãi, buồn, ghê sợ, ng c nhiên, háo hức, chấp nhận, và yêu thích. Các cảm xúc khác là sự t hợp của các cảm xúc chính này. Nhóm thứ hai là các mô hình cảm xúc liên t c. Mô hình Russell là một mô hình cảm xúc liên t c. Trong các mô hình cảm xúc liên t c, các cảm xúc đ ợc phân b trong một không gian hai chiều với hai tr c cơ bả va e ce v arousa h hì h 1. Tr c valence bắt đầu từ tiêu cực đến tích cực và tr c arousal bắt đầu từ bì h tĩ h đến kích thích. Mỗi tr c có 9 tha g đo từ 1 đến 9. Trong nghiên cứu của mình, nhóm s d ng mô hình Russell b i từ mô hình này chúng ta có thể xác đị h đ ợc các cảm xúc h tro g m hì h r i r c bằng cách định vị các vị trí trong không gian 2 chiều valence, arousal. 21 H nh 1 14 Mô hình cảm xúc Russuell b) Thuật toán Higuchi Fractal Dimension. Phân tích hình học fracta đ ợc áp d ng t t cho các h th ng phi tuyến và cho dãy tín hi u trong th i gian thực. Ph ơ g pháp y đ ợc áp d ng trong nhiều nghiên cứu về x lí tín hi u, đặc bi t só g đi n não EEG. Trong nghiên cứu của mì h, Higuchi để đề xuất một thuật toá để phân tích chiều hình học fractal của dãy các tín hi u theo th i gia đó H . H cu g cấp một ph ơ g thức hi u quả để xác đị h đặc tính của dãy các tín hi u tuần tự. Dãy tín hi u y có đặc tính là mỗi một thành phần của dãy có thể đ ợc coi là hình ảnh thu nhỏ của cả dãy. Có thể s d ng tính chất y để tí h toá đặc tr g của dãy tín hi u theo th i gian thực. Mỗi một dãy con tín hi u mới nhận đ ợc từ nguồn có thể m đầu vào cho thuật toán HFD. Nh vậy, vi c tính toán ra giá trị đặc tr g fracta có thể thực hi n liên t c theo th i gian thực. 22 H nh 1 15 Thuật toán Higuchi Fractal Dimension 1.3.3 Một số ph ng ph p tiêu biểu trong trích chọn đặc tr ng t n hiệu điện não. Ph ơ g pháp tro g trích trọ đặc tr g của tín hi u đi n não rất đa d ng và pho g phú h PC , IC , R, m g ơ ro ... Mỗi một ph ơ g pháp có hữ g u điểm riêng, từ đó đề xuất thuật toán phù hợp nhất đ i với bài toán trích chọ đặc tr g tí hi u EEG. Với luậ vă y tập tru g sâu v o m rõ cơ s lý thuyết cũ g h các ứng d ng của ph ơ g pháp trích chọ đặc tr g só g đi n não s d ng biế đ i wavelet. Nếu một g i liên kết với một cái máy có chức ă g thu hận tín hi u não bộ v g i khác l i liên kết với một cái máy khác có chức ă g ích thích một phần não bộ, thì g i thứ nhất có thể kiểm soát h h động của g i thứ hai. Các nhà nghiên cứu từ tr g i học Washington do Rajesh P. N. Rao đứng đầu, đã xuất bản một nghiên cứu vào tháng 11/2014 trên t p chí PLOS One, cho thấy một cách thực nghi m tính khả thi của lo i hình kiểm soát tâm trí này. Một ý định mu n di chuyển tay phải của g i A sẽ đ ợc thu nhận b i chiếc mũ đi n não G. Ý định này sẽ đ ợc g i đến một chiếc máy tính có chức ă g truyền tải nó d ới d g các xu g đi n tới một cuộn dây di tro g ph ơ g pháp ích thích từ xuyên sọ tr đỉ h đầu g i B, trang Live Science diễn giải. Tay phải của g i B 23 sẽ co l i. Tuy rằng nó không đ t đ ợc đế trì h độ kiểm soát tâm trí h tro g các bộ phim khoa học viễ t g, h g đây chí h một kh i điểm. Bộ headset EEG hi đã cho phép g i dù g t ơ g tác với trang ph c đa g mặc, bằng cách kích ho t sự thay đ i trên trang ph c dựa theo cảm xúc của họ. Bộ headset y cũ g cho phép g i dù g chơi game từ xa. Bên c h đó cũ g có một thiết bị th i tra g đọc đ ợc cảm xúc. T p chí Smithso ia đã đ a ti về hai lo i thiết bị th i trang lấy cảm hứng từ khoa học viễn t g đu i Shippo v tai mèo Necomimi. Cũ g gi g h vi c một chú chó sẽ vẫy, hay g c đu i xu ng hoặc vểnh tai lên tùy thuộc vào tr ng thái cảm xúc của nó, những lo i thiết bị th i trang này (nhìn bên ngoài chỉ đơ giả đu i v tai giả của động vật) sẽ phản ứng với tr ng thái cảm xúc của g i đeo. Thiết bị th i trang này sẽ đọc cảm xúc của g i đeo dựa vào các tín hi u não. H nh 1 16 Một cô g i đang thử trải nghiệm sản phẩm đuôi mèo Shippo tại Hội chợ Trò ch i Tokyo 2012 Nhận d ng khuôn mặt là một trong nhữ g ĩ h vực mới của x lý ảnh. Và ngày nay nhận d g đ ợc ứng d ng rộng rãi trong nhiều ĩ h vực của đ i s g h 24 nhận d g tro g ĩ h vực th ơ g m i, hay phát hi n tội ph m tro g ĩ h vực an i h, hay tro g ĩ h vực x lý video, hình ảnh. 1.4 Giải ph p phân lớp sử dụng mạng neural trong nhận dạng cảm xúc Trong nhữ g ăm gầ đây, đã có rất nhiều công trình công b , đ a ra các h ớng tiếp cận khác nhau cho vi c giải quyết bài toán nhận d ng cảm xúc con g i th g qua só g đi ão. Phầ quan trọ g đầu tiên của nhận di n cảm xúc thông qua tín hi u EEG chính là trích chọ đặc tr g. Tro g h ớng tiếp cận truyền th ng dựa trên k thuật trích chọ đặc tr g, có một s ph ơ g pháp ti u biểu phải kể đế Ph ơ g pháp phâ tích th h phần chính (Principal Component Analysis – PC , Ph ơ g pháp phâ tích th h phầ độc lập (Independent Component Analysis – ICA), Mô hình tự hồi quy (Autoregressive Modeling - R . Các ph ơ g pháp trên chủ yếu dựa vào vi c phân tích tín hi u trên không gian tuyến tính, vì vậy không khai thác hết đ ợc bản chất phi tuyến của tín hi u EEG. Gầ đây, dựa trên các u điểm biểu diễn tín hi u phi tuyến trên cả hai miền tần s và th i gian của phép biế đ i Wavelet, một s công trình công b trên thế giới đã tập trung vào áp d ng k thuật y cho phâ tích đặc tr g của tín hi u G v thu đ ợc hi u quả cao hơ so với các ph ơ g pháp truyền th ng. Ở Vi t Nam, các nghiên cứu về EEG và BCI vẫn còn h n chế, chủ yếu là phân tích tín hi u G d ới d g “th ”. Vi c áp d ng biế đ i Wavelet mới chỉ dùng cho vi c lọc nhiễu tín hi u EEG hoặc x lý tín hi u đi n tim ECG. Dựa trên các bộ cơ s dữ li u có sẵn về các tín hi u G đ ợc cộ g đồng khoa học qu c tế công nhậ cơ s dữ li u chu để đ i sá h các ph ơ g pháp , luậ vă sẽ khảo sát và chứng minh tính hi u quả hơ của ph ơ g pháp trích chọn đặc tr g só g đi n não s d ng biế đ i wavelet r i r c so với một s ph ơ g pháp th ng dùng. Sau đó tiế đế s d g m g ơ-ro để phâ bi t các tr g thái cảm xúc: Vui, buồ , tức giậ , 25 1.5 Kết luận Ch ơ g 1 trì h b y về tí hi u đi ão: cách đo đ c v thu hậ tí hi u, các d g só g đi ão cơ bả guy tắc phâ tích đi ão đồ, phâ bi t các d g só g de ta, beta, theta, a pha, gramma . c h đó Ch ơ g 1 cũ g trì h b y về m i i h giữa tí hi u só g ão v cảm xúc, một s h ớ g tiếp cậ tro g hậ d g cảm xúc áp d g tí hi u só g ão. Từ đó đ a ra ph ơ g pháp đề xuất s d g ph ơ g pháp biế đ i wave et r i r c để phâ tích só g đi ão hằm thu đ ợc các tham s qua trọ g tro g vi c hậ d g cảm xúc. Các tham s y sẽ đ ợc s d g tro g phầ hậ d g cảm xúc tr cơ s phâ ớp s d g m g ơ-ron. 26 CHƯƠNG 2 NHẬN DẠNG CẢM XÚC DỰA TRÊN S NG ĐIỆN NÃO SỬ DỤNG MẠNG NƠ RON 2.1 Biến đổi wavelet rời rạc trong hệ thống nhận dạng cảm xúc 2.1.1 Vai trò c a DWT trong qu tr nh nhận dạng cảm xúc H nh 2 1 Hệ thống nhận dạng cảm xúc sử dụng EEG Tro g h th g hậ d g cảm xúc s d g G gồm 3 phâ đo chí h: thu thập dữ i u th th g qua thiết bị đi ão đồ tiề x , trích chọ đặc tr g, phâ o i. Phâ đo trích chọ đặc tr g có rất hiều ph ơ g pháp hác hau, có thể ể đế PC , IC , R, m g ơ ro ... Mỗi một ph ơ g pháp có hữ g u điểm riêng, từ đó đề xuất thuật toán phù hợp nhất đ i với bài toán trích chọ đặc tr g tí hi u G. Tuy hi ph ơng pháp trích chọ đặc tr g só g đi n não s d ng biế đ i wave et r i r c có u điểm v ợt trội hơ so với các ph ơ g pháp hác: cấu trúc đơ giả , độ chí h xác cao, v đặc tí h đ ợc mi u tả tr cả miề th i gia v tầ s . 27 2.1 2 C c tham số đặc tr ng c a DWT trong việc nhận dạng cảm xúc ể thực hi phâ đo trích chọ đặc tr g tro g h th g hậ d g cảm xúc, uậ vă trì h b y ph ơ g pháp s d g biế đ i wave et r i r c. Cơ s dữ i u thu đ ợc sẽ đ ợc phâ tách th h 5 th h phầ só g cơ bả : e ta, Theta, pha, eta v Gamma. Từ các th h phầ só g cơ bả y các tham s đặc tr g ph c v cho phâ đo phâ o i cảm xúc đ ợc tí h toá : mea , sta dard deviation, variance, arousal, dominance, skewness, entropy, power, RMS values a) Gi trị trung nh (Mean) Giá trị tru g bì h một đ i ợ g điể hì h của một tập dữ i u, ó đ ợc tí h bằ g t g tất cả các giá trị tro g tập dữ i u đó chia cho s phầ t của tập dữ i u. Giả s chú g ta có tí hi u đ ợc m tả b i X={x1, x2, x3x thì giá trị tru g bì h x  đ ợc xác đị h b i c g thức sau: 1 1 n X i i X n     (2.60) b) Độ lệch chuẩn (Standard deviation) ộ l ch chu , hay độ l ch tiêu chu n (Standard Deviation) là một đ i ợng th ng kê mô tả dù g để đo mức độ phân tán của một tập dữ li u đã đ ợc lập thành bảng tần s . ộ ch chu thấp đồ g ghĩa với điểm dữ i u gầ với giá trị tru g bì h v g ợc i, ếu giá trị độ ch chu ớ thì điểm dữ i u đó cách xa giá trị tru g bì h 14]. Giả s X một biế gẫu hi với giá trị tru g bì h  , thì độ ch chu của X đ ợc tí h b i c g thức sau: 1 1 ( ) 1 N nx x nN X           (2.61) c) Entropy tropy đ ợc tí h b i c g thức: 28 2 2 1 log( ) n e x x   (2.62) d) Power Power phép đo bi độ của tí hi u G v đ ợc tí h b i c g thức: 2 ow ( ) P er L X X (2.63) Tro g đó X tập các giá trị của tí hi u v L x độ d i của tí hi u e) RMS value Xét 1 tập các giá trị X1, X2, X3, X thì giá trị RMS đ ợc tí h b i c g thức: 2 2 2 1 2 1 ( ...RMS nX X X X n     (2.64) 2.2 Phân lớp sử dụng mạng N -ron 2.2 1 Tổng quan về mạng Neural 2.2.1.1 Neural sinh học Một eura đ ợc cấu gồm những thành phần chính sau: Dendrite, Soma, Synapse, xo h Hình 2.7. H nh 2 2 Mô hình neural sinh học Soma là thân của neural. Các dendrites là các dây mảnh, dài, gắn liền với soma, chúng truyền dữ li u d ới d g xu g đi n thế đến cho soma x lý. Bên trong soma các dữ li u đó đ ợc 29 t ng hợp l i, có thể xem gầ đú g sự t ng hợp ấy h một phép lấy t ng tất cả các dữ li u mà neural nhậ đ ợc. Một lo i dây dẫn tín hi u hác cũ g gắn với soma là các axon. Khác với dendrites, axons có khả ă g phát các xu g đi n thế, chúng là các dây dẫn tín hi u từ eura đi các ơi hác. Chỉ hi o đi n thế tro g soma v ợt quá một giá trị g ỡng nào đó thì axo mới phát một xu g đi n thế, còn nếu không thì nó tr ng thái nghỉ. Axon n i với các dendrites của các neural khác thông qua những m i n i đặc bi t gọi sy apse. Khi đi n thế của sy apse tă g do các xu g phát ra từ axon thì synapse sẽ nhả ra một s chất hoá học (neurotransmitters); các chất này m "c a" tr de drites để cho các ions truyề qua. Chí h dò g io s y m thay đ i đi n thế trên dendrites, t o ra các xung dữ li u lan truyền tới các neural khác. Có thể tóm tắt ho t động của một eura h sau: eura ấy t ng tất cả các đi n thế vào mà nó nhậ đ ợc, và phát ra một xu g đi n thế nếu t ng ấy lớ hơ một g ỡ g o đó. Các eura i với nhau các sy apses. Sy apse đ ợc gọi là m ch khi nó cho phép truyền dẫn dễ dàng tín hi u qua các eura hác. Ng ợc l i, một synapse yếu sẽ truyền dẫn tín hi u rất hó hă . Các sy apses đó g vai trò rất quan trọng trong sự học tập. Khi chúng ta học tập thì ho t động của các sy apses đ ợc tă g c ng, t o nên nhiều liên kết m nh giữa các neural. Có thể nói rằ g g i nào học càng giỏi thì càng có nhiều synapses và các synapses ấy càng m nh mẽ, hay nói cách khác, thì liên kết giữa các neural càng nhiều, càng nh y bén. 2.2.1.2 Neural nhân tạo Neural nhân t o là một đơ vị tính toán có nhiều đầu vào và một đầu ra, mỗi đầu v o đến từ một liên kết. ặc tr g của neural là một hàm kích ho t phi tuyến chuyể đ i t hợp tuyến tính của tất cả các tín hi u đầu vào thành tín hi u đầu ra. Hàm kích ho t y đảm bảo tính chất phi tuyến cho tính toán của m ng neural. 30 H nh 2 3 Mô hình một neural nhân tạo Một eura đ ợc cầu t o gồm các thành phần chính: liên kết neural, bộ cộng, hàm kích ho t.Liên kết neural là một thành phần của m ng neural nhận t o để liên kết giữa các neural, nó n i đầu ra của neural lớp này với đầu vào của một neural trong lớp hác. ặc tr g của thành phần liên kết là một trọng s mà mỗi tín hi u đi qua đều đ ợc nhân với trọng s này. Các trọng s liên kết chính là các tham s tự do cơ bản của m ng neuron, có thể thay đ i đ ợc nhằm thích nghi với m i tr ng xung quanh.Bộ cộ g dù g để tính t ng các tín hi u đầu vào của eura , đã đ ợc nhân với các trọng s liên kết t ơ g ứng. Phép toá đ ợc mô tả đây t o nên một bộ hợp tuyến tính. Hàm kích ho t hay còn gọi hàm kích ho t phi tuyến, chuyể đ i một t hợp tuyến tính của tất cả các tín hi u đầu vào thành tín hi u đầu ra. Hàm kích ho t y đảm bảo tính chất phi tuyến cho tính toán m g eura . Nó đ ợc xem h là một hàm giới h n, nó giới h n ph m vi bi độ cho phép của tín hi u đầu ra trong một khoảng giá trị hữu h n. Mô hình neural trong Hình 2.8 còn bao gồm một h s điều chỉ h b tác động từ bên ngoài. H s điều chỉnh b có tác d g tă g hoặc giảm đi đầu vào thực của hàm kích ho t, tùy theo ó d ơ g hay âm. 31 Bảng 2 1 Một số hàm kích hoạt c ản trong mạng neural Tên hàm Công thức hardlim a = 0 với n < 0 a = 1 với 0n  hardlims a = -1 với n < 0 a = 1 với 0n  purelin a = n Satlin a = 0 với n < 0 a = n với 0 1n  a = 1 với n > 1 satlins a = -1 với n < 0 a = n với 0 1n  a = 1 với n > 1 tansig poslin a = 0 với n < 0 a = n với 0n  compet a = 1 với neural có n lớn nhất a = 0 với các neural còn l i logsig ne ee a nn     1 ne a   1 1 32 2.2.1.3 Mô hình mạng neural nhân tạo H nh 2 4 S đồ đ n giản về một mạng neural nhân tạo Mô hình m ng neural trên gồm 3 lớp: lớp nhập (input), lớp n(hidden) và lớp xuất (output). Mỗi nút trong lớp nhập nhận giá trị của một biế độc lập và chuyển vào m ng. Dữ li u từ tất cả các nút trong lớp nhập đ ợc tích hợp – ta gọi là t ng trọng s – và chuyển kết quả cho các nút trong lớp n. Gọi “ ” vì các út tro g ớp này chỉ liên l c với các nút trong lớp nhập và lớp xuất, và chỉ có g i thiết kế m ng mới biết lớp y g i s d ng không biết lớp này). Các nút trong lớp xuất nhận các tín hi u t ng trọng hóa từ các nút trong lớp n. Mỗi nút trong lớp xuất t ơ g ứng với một biến ph thuộc. 2.2.2 Đặc tr ng c a mạng neural 2.2.2.1 Tính phi tuyến. Một neural có thể tính toán một cách tuyến tính hay phi tuyến. Một m ng neural, cấu thành b i sự kết n i các neural phi tuyến thì tự nó sẽ có tính phi tuyến. Hơ ữa, điều đặc bi t là tính phi tuyế y đ ợc phân tán trên toàn m ng. Tính phi 33 tuyến là một thuộc tính rất quan trọng, nhất hi các cơ chế vật lý sinh ra các tín hi u đầu vào (ví d tín hi u tiếng nói) v n là phi tuyến. 2.2.2.2 Tính chất tương ướng đầu vào đầu ra. Mặc dù khái ni m “học” hay “huấn luy ” ch a đ ợc bà đế h g để hiểu đ ợc m i quan h đầu vào-đầu ra của m ng neural, chúng ta sẽ đề cập sơ qua về khái ni m này. Một mô hình học ph biế đ ợc gọi là học với một g i d y hay học có giám sát i qua đến vi c thay đ i các trọng s liên kết của m ng neural bằng vi c áp d ng một tập hợp các mẫu tích lu hay các ví d tích lu . Mỗi một ví d bao gồm một tín hi u đầu vào và một đầu ra mong mu t ơ g ứng. M ng neural nhận một ví d lấy một cách ngẫu nhiên từ tập hợp nói trên t i đầu vào của nó, và các trọng s liên kết của m g đ ợc biế đ i sao cho có thể cực tiểu hoá sự sai khác giữa đầu ra mong mu v đầu ra thực sự của m ng theo một tiêu chu n th ng kê thích hợp. Sự tích lu của m g đ ợc lặp l i với nhiều ví d trong tập hợp cho tới khi m g đ t tới một tr ng thái định mà đó h g có một sự thay đ i đá g ể nào của các trọng s liên kết. Các ví d tích lu đ ợc áp d g tr ớc có thể đ ợc áp d ng l i trong th i gian của phiên tích lu h g theo một thứ tự khác. Nh vậy m ng neural học từ các ví d bằng cách xây dựng nên một t ơ g ứ g đầu vào-đầu ra cho vấ đề cần giải quyết. 2.2.2.3 Tính chất thích nghi. Các m ng neural có một khả ă g mặc định là biế đ i các trọng s liên kết tuỳ theo sự thay đ i của m i tr g xu g qua h. ặc bi t, một m g eura đã đ ợc tích lu để ho t động trong một m i tr g xác định có thể đ ợc tích lu l i một cách dễ dàng khi có nhữ g thay đ i nhỏ của các điều ki m i tr ng ho t động. 2.2.2.4 Tính chất đưa ra lời giải có bằng chứng. Trong ngữ cảnh phân lo i mẫu, một m ng neural có thể đ ợc thiết kế để đ a ra thông tin không chỉ về mẫu đ ợc phân lo i, mà còn về sự tin cậy của quyết định 34 đã đ ợc thực hi n. Thông tin này có thể đ ợc s d g để lo i bỏ các mẫu mơ hồ hay nhập nhằng. 2.2.2.5 Tính chất chấp nhận sai xót. Một m ng eura , đ ợc c i đặt d ới d ng phần cứng, v n có khả ă g chấp nhận lỗi, hay khả ă g tí h toá th , với ghĩa tí h ă g của nó chỉ thoái hoá khi có những điều ki n ho t động bất lợi. Ví d , nếu một neural hay các liên kết kết n i của nó bị hỏng, vi c nhận d ng l i một mẫu đ ợc u trữ sẽ suy giảm về chất ợng. 2.2.2.6. Khả năng cài đặt VLSI (Very-large-scale-intergrated). Bản chất so g so g đồ sộ của một m ng neural làm cho nó rất nhanh trong tí h toá đ i với một s công vi c. ặc tí h y cũ g t o ra cho một m ng neural khả ă g phù hợp cho vi c c i đặt s d ng k thuật Very-large-scale-intergrated (VLSI). K thuật này cho phép xây dựng những m ch cứng tính toán song song quy mô lớn. Chính vì vậy m u điểm n i bật của VLSI là mang l i nhữ g ph ơ g ti n hữu hi u để có thể x đ ợc nhữ g h h vi có độ phức t p cao. 2.2.2.7 Tính chất đồng dạng trong phân tích và thiết kế. Về cơ bản, các m ng neural có tính chất chu g h các bộ x lý thông tin. Chú g ta u ra điều này với cù g ghĩa cho tất cả các ĩ h vực có liên quan tới vi c ứng d ng m g eura . ặc tính này thể hi n một s điểm h sau:  Các eura , d ới d ng này hoặc d ng khác, biểu diễn một thành phần chung cho tất cả các m ng neural.  Tính th ng nhất y đem i khả ă g chia sẻ các lý thuyết và các thuật toán học trong nhiều ứng d ng khác nhau của m ng neural.  Các m ng t hợp (modular) có thể đ ợc xây dựng thông qua một sự tích hợp các mô hình khác nhau. 35 2.2.3 Phân loại mạng neural nhân tạo. 2.2.3.1. Phân loại theo kiểu liên kết neural. Ta có m ng neural truyền thẳng và neural m ng qui hồi. Trong m ng truyền thẳ g các eura đi theo một h ớng nhất định t o th h đồ thị không có chu trình, các đỉnh là các neural còn các c nh là các liên kết giữa chúng. Các m ng qui hồi cho phép các liên kết neural t o thành chu trình, các thông tin ra của các neural đ ợc truyền l i cho các eura đã góp phần kích ho t chúng, nên m ng qui hồi còn có khả ă g u giữ tr ng thái trong của ó d ới d g các g ỡng kích ho t ngoài các trọng s liên kết neural. 2.2.3.2 Một số loại mạng neural. a) Mạng dẫn tiến Có thể nói m ng neural dẫn tiến là một kiểu m g đơ giản trong vi c sắp đặt m ng. Trong m ng này thông tin chỉ truyền trên một h ớng duy nhất từ lớp đầu vào xuyên qua lớp n (nếu có) và kết thúc t i lớp đầu ra. Không có chu trình hoặc vòng trong m ng. Các mạng dẫn tiến đơn mức Trong một m ng neural phân mức, các eura đ ợc t chức d ới d ng các mức. Với d g đơ giản nhất của m ng phân mức, chúng ta có một mức đầu vào gồm các nút nguồn chiếu trực tiếp tới mức đầu ra gồm các neural. Mức đầu vào Mức đầu ra H nh 2 1 Mạng tiến với một mức neural 36 Nh vậy, m ng thực sự h g có chu trì h. Nó đ ợc minh ho trong Hình 2.10 cho tr ng hợp ba út đ i với cả mức đầu ra v đầu vào. Một m g h vậy đ ợc gọi là một m g đơ mức. “ ơ mức” tức là chỉ có một mức, chính là mức đầu ra gồm các nút tính toán (các neural). Chúng ta không tính mức đầu vào của các nút nguồ vì h g có tí h toá o đ ợc thực hi n đây. Các mạng dẫn tiến đa mức Lớp thứ hai của một m ng neural dẫn tiế đ ợc phân bi t b i sự có mặt của một hay nhiều mức n, mà các nút tính toán của chú g đ ợc gọi là các neural n hay các đơ vị n (thuật ngữ “ ” đây ma g ghĩa h g tiếp xúc với môi tr ng). Chức ă g của các neural n là can thi p vào giữa đầu v o v đầu ra của m ng một cách hữu hi u. Bằng vi c thêm một vài