Inginerul american Claude Shannon și ceea ce este faimos. Biografie și fapte interesante
Anatoly Ushakov, doctor în științe tehnice, prof. departament sisteme de control și informatică, Universitatea ITMO
Multe generații de specialiști tehnici din a doua jumătate a secolului al XX-lea, chiar și cei destul de departe de teoria controlului automat și a ciberneticii, părăsind zidurile universităților, și-au amintit pentru tot restul vieții numele științifice și „autorului” realizări tehnice: funcțiile Lyapunov, procesele Markov, frecvența și criteriul Nyquist, procesul Wiener, filtrul Kalman. Printre astfel de realizări, teoremele lui Shannon ocupă locul de mândrie. Anul 2016 marchează o sută de ani de la nașterea autorului, om de știință și inginer Claude Shannon.
„Cine deține informațiile, deține lumea”
W. Churchill
Orez. 1. Claude Shannon (1916–2001)
Claude Elwood Shannon (Fig. 1) s-a născut la 30 aprilie 1916 în orașul Petocki, situat pe malul lacului Michigan, Michigan (SUA), în familia unui avocat și profesor. limbi straine. Sora lui mai mare, Katherine, era interesată de matematică și în cele din urmă a devenit profesor, iar tatăl lui Shannon și-a combinat munca de avocat cu radioamatori. O rudă îndepărtată a viitorului inginer a fost inventatorul de renume mondial Thomas Edison, care deținea 1093 de brevete.
Shannon a absolvit liceul complet în 1932, la vârsta de șaisprezece ani, în timp ce primise educație suplimentară acasă. Tatăl său i-a cumpărat seturi de construcție și aparate de radio amatori și a contribuit în toate modurile la creativitatea tehnică a fiului său, iar sora lui l-a implicat în studii avansate de matematică. Shannon s-a îndrăgostit de ambele lumi - inginerie și matematică.
În 1932, Shannon a intrat la Universitatea din Michigan, de la care a absolvit în 1936, primind o diplomă de licență cu o dublă specializare în matematică și inginerie electrică. În timpul studiilor, a găsit în biblioteca universității două lucrări de George Boole - „Analiza matematică a logicii” și „Calcul logic”, scrise în 1847, respectiv 1848. Shannon le-a studiat cu atenție, iar asta, se pare, i-a determinat viitoarele interese științifice.
După absolvire, Claude Shannon și-a luat un loc de muncă la Laboratorul de Inginerie Electrică al Institutului de Tehnologie din Massachusetts (MIT) ca asistent de cercetare, unde a lucrat la modernizarea analizorului diferențial al vicepreședintelui MIT Vannevar Bush, un „calculator” analog. Din acel moment, Vannevar Bush a devenit mentorul științific al lui Claude Shannon. În timp ce studia releele complexe, înalt specializate, și circuitele de comutare ale dispozitivului de control al analizorului diferențial, Shannon și-a dat seama că conceptele lui George Boole ar putea fi puse la punct în acest domeniu.
La sfârșitul anului 1936, Shannon a intrat în programul de master și deja în 1937 a scris rezumatul tezei sale pentru o diplomă de master și, pe baza acestuia, a pregătit articolul „Analiza simbolică a releelor și a circuitelor de comutare”, care a fost publicat în 1938 în publicarea Institutului American de Ingineri Electrici (AIEE). Această lucrare a atras atenția comunității științifice de inginerie electrică, iar în 1939 Societatea Americană a Inginerilor Civili i-a acordat lui Shannon Premiul Nobel Alfred pentru aceasta.
Neavând încă susținut teza de master, Shannon, la sfatul lui Bush, a decis să lucreze la un doctorat în matematică la MIT, referitor la probleme de genetică. Potrivit lui Bush, genetica ar putea fi un domeniu problematic de succes pentru aplicarea cunoștințelor lui Shannon. Teza de doctorat a lui Shannon, intitulată „Algebră pentru genetică teoretică”, a fost finalizată în primăvara anului 1940 și a fost dedicată problemelor de combinatorie a genelor. Shannon și-a luat doctoratul în matematică și, în același timp, și-a susținut teza „Analiza simbolică a releelor și a circuitelor de comutare”, devenind un maestru în inginerie electrică.
Teza de doctorat a lui Shannon nu a primit prea mult sprijin din partea geneticienilor și din acest motiv nu a fost niciodată publicată. Cu toate acestea, teza de master s-a dovedit a fi o descoperire în comutație și tehnologia digitală. Ultimul capitol al disertației a oferit numeroase exemple de aplicare cu succes a calculului logic dezvoltat de Shannon la analiza și sinteza unor circuite de releu și comutatoare specifice: circuite selectoare, un lacăt cu secret electric, sumatori binari. Toate acestea demonstrează în mod clar descoperirea științifică realizată de Shannon și beneficiile practice enorme ale formalismului calculului logic. Așa s-a născut logica digitală.
Orez. 2. Claude Shannon la Bell Labs (mijlocul anilor 1940)
În primăvara anului 1941, Claude Shannon a devenit angajat al departamentului de matematică al centrului de cercetare Bell Laboratories (Fig. 2). Câteva cuvinte ar trebui spuse despre atmosfera în care s-a aflat Claude Shannon, în vârstă de 25 de ani - a fost creată de Harry Nyquist, Henrik Bode, Ralph Hartley, John Tukey și alți angajați Bell Laboratories. Toți au avut deja anumite rezultate în dezvoltarea teoriei informației, pe care Shannon avea să le dezvolte în cele din urmă la nivelul de mare știință.
În acest moment, războiul se desfășura deja în Europa, iar Shannon efectua cercetări care au fost finanțate pe scară largă de guvernul SUA. Lucrarea pe care Shannon a făcut-o la Laboratoarele Bell a fost legată de criptografie, ceea ce l-a determinat să lucreze la teoria matematică a criptografiei și, în cele din urmă, i-a permis să analizeze textele cifrate folosind metode teoretice informaționale (Figura 3).
În 1945, Shannon a finalizat un mare raport științific secret pe tema „Teoria comunicării sistemelor de secretizare”.
Orez. 3. La mașina de criptare
În acest moment, Claude Shannon era deja aproape de a vorbi comunității științifice cu noi concepte de bază în teoria informației. Și în 1948 și-a publicat lucrarea de referință „Teoria matematică a comunicațiilor”. Teoria matematică a comunicării a lui Shannon a presupus o structură cu trei componente, compusă dintr-o sursă de informație, un receptor de informații și un „mediu de transport” - un canal de comunicare caracterizat prin debit și capacitatea de a distorsiona informația în timpul transmisiei. A apărut o anumită gamă de probleme: cum să cuantificați informațiile, cum să le împachetați în mod eficient, cum să estimați viteza permisă de ieșire a informațiilor de la o sursă către un canal de comunicație cu o lățime de bandă fixă pentru a garanta transmiterea fără erori a informațiilor și , în sfârșit, cum se rezolvă ultima problemă în prezența interferențelor în conexiunile canalului? Claude Shannon a dat omenirii răspunsuri cuprinzătoare la toate aceste întrebări cu teoremele sale.
Trebuie spus că colegii săi din „magazin” l-au ajutat pe Shannon cu terminologia. Astfel, termenul pentru unitatea minimă de cantitate de informații - „bit” - a fost propus de John Tukey, iar termenul pentru estimarea cantității medii de informații pe simbol al sursei - „entropie” - John von Neumann. Claude Shannon și-a prezentat lucrările fundamentale sub forma a douăzeci și trei de teoreme. Nu toate teoremele sunt echivalente, unele dintre ele sunt de natură auxiliară sau sunt dedicate cazurilor speciale ale teoriei informației și transmiterii acesteia pe canale de comunicare discrete și continue, dar șase teoreme sunt conceptuale și formează cadrul construcției teoriei informației create de Claude Shannon.
- Prima dintre aceste șase teoreme este legată de evaluarea cantitativă a informațiilor generate de o sursă de informație, în cadrul unei abordări stocastice bazate pe o măsură sub formă de entropie care indică proprietățile acesteia.
- A doua teoremă este dedicată problemei împachetării raționale a simbolurilor generate de o sursă în timpul codificării lor primare. A dat naștere unei proceduri de codare eficace și a necesității introducerii unui „encoder sursă” în structura sistemului de transmitere a informațiilor.
- A treia teoremă se referă la problema potrivirii fluxului de informație din sursa informațională cu capacitatea canalului de comunicație în absența interferenței, ceea ce garantează absența distorsiunii informației în timpul transmisiei.
- A patra teoremă rezolvă aceeași problemă ca cea anterioară, dar în prezența interferenței în canalul de comunicație binar, ale cărei efecte asupra mesajului de cod transmis contribuie la probabilitatea de distorsiune a unui bit de cod arbitrar. Teorema conține o condiție de încetinire a transmisiei care garantează o probabilitate dată de livrare fără erori a mesajului cod către destinatar. Această teoremă este baza metodologică a codării de protecție împotriva zgomotului, ceea ce a condus la necesitatea introducerii unui „codor de canal” în structura sistemului de transmisie.
- A cincea teoremă este dedicată estimării capacității unui canal de comunicație continuu, caracterizat printr-o anumită lățime de bandă de frecvență și puteri date ale semnalului util și ale semnalului de interferență în canalul de comunicație. Teorema definește așa-numita limită Shannon.
- Ultima dintre teoreme, numită teorema Nyquist-Shannon-Kotelnikov, este dedicată problemei reconstrucției fără erori a unui semnal continuu din eșantioanele sale discrete în timp, ceea ce ne permite să formulăm o cerință pentru valoarea timpului discret. interval, determinat de lățimea spectrului de frecvență al semnalului continuu, și pentru a forma funcții de bază numite funcții de referință.
Trebuie spus că inițial mulți matematicieni din întreaga lume au avut îndoieli cu privire la baza de dovezi a acestor teoreme. Dar, de-a lungul timpului, comunitatea științifică s-a convins de corectitudinea tuturor postulatelor, găsindu-le confirmare matematică. În țara noastră, A.Ya Khinchin și-a dedicat eforturile acestei probleme. și Kolmogorov A.N. .
În 1956, faimosul Claude Shannon a părăsit Laboratoarele Bell fără a rupe legăturile cu acesta și a devenit profesor titular la două facultăți de la Institutul de Tehnologie din Massachusetts: matematică și inginerie electrică.
Orez. 4. Labirintul lui Shannon
Claude Shannon a avut întotdeauna multe interese complet fără legătură cu ale lui activitate profesională. Talentul ingineresc remarcabil al lui Shannon s-a manifestat în crearea a tot felul de mașini și mecanisme, inclusiv mouse-ul mecanic Tezeu, care rezolvă o problemă de labirint (Fig. 4), un computer cu operații pe numere romane, precum și computere și programe de joc. şah.
În 1966, la vârsta de 50 de ani, Claude Shannon s-a retras din predare și s-a dedicat aproape în întregime hobby-urilor sale. El creează un monociclu cu două șei, un cuțit pliabil cu o sută de lame, roboți care rezolvă un cub Rubik și un robot care jonglează cu bile. În plus, Shannon însuși continuă să-și perfecționeze abilitățile de jongler, ducând numărul de bile la patru (Fig. 5). Martori ai tinereții sale de la Laboratoarele Bell și-au amintit cum s-a plimbat pe coridoarele companiei cu un monociclu, în timp ce jonglea cu mingi.
Orez. 5. Claude Shannon - jongler
Din păcate, Claude Shannon nu a avut contacte strânse cu oamenii de știință sovietici. Cu toate acestea, a reușit să viziteze URSS în 1965 la invitația Societății Științifice și Tehnice de Inginerie Radio, Electronică și Comunicații (NTORES) numită după A.S. Popova. Unul dintre inițiatorii acestei invitații a fost multiplu campion mondial la șah Mikhail Botvinnik, doctor în științe tehnice, profesor, care era și inginer electrician și era interesat de programarea șahului. O discuție plină de viață a avut loc între Mikhail Botvinnik și Claude Shannon despre problemele computerizării artei șahului. Participanții au ajuns la concluzia că acest lucru a fost foarte interesant pentru programare și nepromițător pentru șah. După discuție, Shannon i-a cerut lui Botvinnik să joace șah cu el și în timpul jocului a avut chiar un ușor avantaj (o turnă pentru un cavaler și un pion), dar tot a pierdut la a 42-a mutare.
În ultimii ani ai vieții sale, Claude Shannon a fost grav bolnav. A murit în februarie 2001, într-un azil de bătrâni din Massachusetts, din cauza bolii Alzheimer, la vârsta de 85 de ani.
Claude Shannon a lăsat o bogată moștenire aplicată și filozofică. Creat de el teorie generală dispozitive de automatizare discrete și tehnologie informatică, tehnologie utilizare eficientă capabilitățile mediului de canal. Toți arhivatorii moderni utilizați în lumea computerelor se bazează pe teorema de codificare eficientă a lui Shannon. Baza moștenirii sale filozofice constă din două idei. În primul rând: scopul oricărui management ar trebui să fie reducerea entropiei ca măsură a incertitudinii și dezordinei în mediul sistemului. Managementul care nu rezolvă această problemă este redundant, adică inutil. Al doilea este că totul în această lume este, într-un anumit sens, un „canal de comunicare”. Canalul de comunicare este o persoană, o echipă, un întreg mediu funcțional, o industrie, o structură de transport și țara în ansamblu. Și dacă nu coordonați soluțiile tehnice, informaționale, umanitare, guvernamentale cu capacitatea mediului de canal pentru care sunt concepute, atunci nu vă așteptați la rezultate bune.
Literatură
- Shannon C. E. O teorie matematică a comunicării. Jurnalul tehnic Bell Systems. iulie și oct. 1948 // Claude Elwood Shannon. Lucrări adunate. N.Y., 1993. P. 8-111.
- Shannon C. E. Comunicarea în prezența zgomotului. Proc.IRE. 1949. V. 37. Nr. 10.
- Shannon C. E. Teoria comunicării sistemelor de secretizare. Jurnalul tehnic Bell Systems. iulie și oct. 1948 // Claude Elwood Shannon. Lucrări adunate. N.Y., 1993. P. 112-195.
- Mașini automate. Culegere de articole ed. K. E. Shannon, J. McCarthy / Trad. din engleză M.: Din-înăuntru. aprins. 1956.
- Robert M. Fano Transmission of information: A statistical theory of communication. Publicat în comun de M.I.T., PRESS și JOHN WILEY & SONS, INC. New York, Londra. 1961.
- www. cercetare.att. com/~njas/doc/ces5.html.
- Kolmogorov A. N. Prefață // Lucrări despre teoria informației și cibernetică / K. Shannon; BANDĂ din engleză sub. ed. R.L. Dobrushina si O.B. Lupanova; prefaţă A. N. Kolmogorov. M., 1963.
- Levin V.I.K.E. Shannon și stiinta moderna// Buletinul TSTU. 2008. Volumul 14. Nr 3.
- Viner N. Ya – matematician / Trad. din engleză M.: Știință. 1964.
- Khinchin A. Ya Despre principalele teoreme ale teoriei informaţiei. UMN 11:1 (67) 1956.
- Kolmogorov A. N. Teoria transmiterii informaţiei. // Sesiunea Academiei de Științe a URSS privind probleme științifice automatizarea productiei. 15–20 octombrie 1956 Sesiune plenară. M.: Editura Academiei de Științe a URSS, 1957.
- Kolmogorov A. N. Teoria informației și teoria algoritmilor. M.: Nauka, 1987.
Anatoly Ushakov, doctor în științe tehnice, prof. departament sisteme de control și informatică, Universitatea ITMO
Multe generații de specialiști tehnici din a doua jumătate a secolului al XX-lea, chiar și cei destul de departe de teoria controlului automat și a ciberneticii, părăsind zidurile universităților, și-au amintit pentru tot restul vieții numele științifice și „autorului” realizări tehnice: funcțiile Lyapunov, procesele Markov, frecvența și criteriul Nyquist, procesul Wiener, filtrul Kalman. Printre astfel de realizări, teoremele lui Shannon ocupă locul de mândrie. Anul 2016 marchează o sută de ani de la nașterea autorului, om de știință și inginer Claude Shannon.
„Cine deține informațiile, deține lumea”
W. Churchill
Orez. 1. Claude Shannon (1916–2001)
Claude Elwood Shannon (Fig. 1) s-a născut la 30 aprilie 1916 în orașul Petocki, situat pe malul lacului Michigan, Michigan (SUA), în familia unui avocat și profesor de limbi străine. Sora lui mai mare, Katherine, era interesată de matematică și în cele din urmă a devenit profesor, iar tatăl lui Shannon și-a combinat munca de avocat cu radioamatori. O rudă îndepărtată a viitorului inginer a fost inventatorul de renume mondial Thomas Edison, care deținea 1093 de brevete.
Shannon a absolvit liceul complet în 1932, la vârsta de șaisprezece ani, în timp ce a primit educație suplimentară acasă. Tatăl său i-a cumpărat seturi de construcție și aparate de radio amatori și a contribuit în toate modurile la creativitatea tehnică a fiului său, iar sora lui l-a implicat în studii avansate de matematică. Shannon s-a îndrăgostit de ambele lumi - inginerie și matematică.
În 1932, Shannon a intrat la Universitatea din Michigan, de la care a absolvit în 1936, primind o diplomă de licență cu o dublă specializare în matematică și inginerie electrică. În timpul studiilor, a găsit în biblioteca universității două lucrări de George Boole - „Analiza matematică a logicii” și „Calcul logic”, scrise în 1847, respectiv 1848. Shannon le-a studiat cu atenție, iar asta, se pare, i-a determinat viitoarele interese științifice.
După absolvire, Claude Shannon și-a luat un loc de muncă la Laboratorul de Inginerie Electrică al Institutului de Tehnologie din Massachusetts (MIT) ca asistent de cercetare, unde a lucrat la modernizarea analizorului diferențial al vicepreședintelui MIT Vannevar Bush, un „calculator” analog. Din acel moment, Vannevar Bush a devenit mentorul științific al lui Claude Shannon. În timp ce studia releele complexe, înalt specializate, și circuitele de comutare ale dispozitivului de control al analizorului diferențial, Shannon și-a dat seama că conceptele lui George Boole ar putea fi puse la punct în acest domeniu.
La sfârșitul anului 1936, Shannon a intrat în programul de master și deja în 1937 a scris rezumatul tezei sale pentru o diplomă de master și, pe baza acestuia, a pregătit articolul „Analiza simbolică a releelor și a circuitelor de comutare”, care a fost publicat în 1938 în publicarea Institutului American de Ingineri Electrici (AIEE). Această lucrare a atras atenția comunității științifice de inginerie electrică, iar în 1939 Societatea Americană a Inginerilor Civili i-a acordat lui Shannon Premiul Nobel Alfred pentru aceasta.
Neavând încă susținut teza de master, Shannon, la sfatul lui Bush, a decis să lucreze la un doctorat în matematică la MIT, referitor la probleme de genetică. Potrivit lui Bush, genetica ar putea fi un domeniu problematic de succes pentru aplicarea cunoștințelor lui Shannon. Teza de doctorat a lui Shannon, intitulată „Algebră pentru genetică teoretică”, a fost finalizată în primăvara anului 1940 și a fost dedicată problemelor de combinatorie a genelor. Shannon și-a luat doctoratul în matematică și, în același timp, și-a susținut teza „Analiza simbolică a releelor și a circuitelor de comutare”, devenind un maestru în inginerie electrică.
Teza de doctorat a lui Shannon nu a primit prea mult sprijin din partea geneticienilor și din acest motiv nu a fost niciodată publicată. Cu toate acestea, teza de master s-a dovedit a fi o descoperire în comutație și tehnologia digitală. Ultimul capitol al disertației a oferit numeroase exemple de aplicare cu succes a calculului logic dezvoltat de Shannon la analiza și sinteza unor circuite de releu și comutatoare specifice: circuite selectoare, un lacăt cu secret electric, sumatori binari. Toate acestea demonstrează în mod clar descoperirea științifică realizată de Shannon și beneficiile practice enorme ale formalismului calculului logic. Așa s-a născut logica digitală.
Orez. 2. Claude Shannon la Bell Labs (mijlocul anilor 1940)
În primăvara anului 1941, Claude Shannon a devenit angajat al departamentului de matematică al centrului de cercetare Bell Laboratories (Fig. 2). Câteva cuvinte ar trebui spuse despre atmosfera în care s-a aflat Claude Shannon, în vârstă de 25 de ani - a fost creată de Harry Nyquist, Henrik Bode, Ralph Hartley, John Tukey și alți angajați Bell Laboratories. Toți au avut deja anumite rezultate în dezvoltarea teoriei informației, pe care Shannon avea să le dezvolte în cele din urmă la nivelul de mare știință.
În acest moment, războiul se desfășura deja în Europa, iar Shannon efectua cercetări care au fost finanțate pe scară largă de guvernul SUA. Lucrarea pe care Shannon a făcut-o la Laboratoarele Bell a fost legată de criptografie, ceea ce l-a determinat să lucreze la teoria matematică a criptografiei și, în cele din urmă, i-a permis să analizeze textele cifrate folosind metode teoretice informaționale (Figura 3).
În 1945, Shannon a finalizat un mare raport științific secret pe tema „Teoria comunicării sistemelor de secretizare”.
Orez. 3. La mașina de criptare
În acest moment, Claude Shannon era deja aproape de a vorbi comunității științifice cu noi concepte de bază în teoria informației. Și în 1948 și-a publicat lucrarea de referință „Teoria matematică a comunicațiilor”. Teoria matematică a comunicării a lui Shannon a presupus o structură cu trei componente, compusă dintr-o sursă de informație, un receptor de informații și un „mediu de transport” - un canal de comunicare caracterizat prin debit și capacitatea de a distorsiona informația în timpul transmisiei. A apărut o anumită gamă de probleme: cum să cuantificați informațiile, cum să le împachetați în mod eficient, cum să estimați viteza permisă de ieșire a informațiilor de la o sursă către un canal de comunicație cu o lățime de bandă fixă pentru a garanta transmiterea fără erori a informațiilor și , în sfârșit, cum se rezolvă ultima problemă în prezența interferențelor în conexiunile canalului? Claude Shannon a dat omenirii răspunsuri cuprinzătoare la toate aceste întrebări cu teoremele sale.
Trebuie spus că colegii săi din „magazin” l-au ajutat pe Shannon cu terminologia. Astfel, termenul pentru unitatea minimă de cantitate de informații - „bit” - a fost propus de John Tukey, iar termenul pentru estimarea cantității medii de informații pe simbol al sursei - „entropie” - John von Neumann. Claude Shannon și-a prezentat lucrările fundamentale sub forma a douăzeci și trei de teoreme. Nu toate teoremele sunt echivalente, unele dintre ele sunt de natură auxiliară sau sunt dedicate cazurilor speciale ale teoriei informației și transmiterii acesteia pe canale de comunicare discrete și continue, dar șase teoreme sunt conceptuale și formează cadrul construcției teoriei informației create de Claude Shannon.
- Prima dintre aceste șase teoreme este legată de evaluarea cantitativă a informațiilor generate de o sursă de informație, în cadrul unei abordări stocastice bazate pe o măsură sub formă de entropie care indică proprietățile acesteia.
- A doua teoremă este dedicată problemei împachetării raționale a simbolurilor generate de o sursă în timpul codificării lor primare. A dat naștere unei proceduri de codare eficace și a necesității introducerii unui „encoder sursă” în structura sistemului de transmitere a informațiilor.
- A treia teoremă se referă la problema potrivirii fluxului de informație din sursa informațională cu capacitatea canalului de comunicație în absența interferenței, ceea ce garantează absența distorsiunii informației în timpul transmisiei.
- A patra teoremă rezolvă aceeași problemă ca cea anterioară, dar în prezența interferenței în canalul de comunicație binar, ale cărei efecte asupra mesajului de cod transmis contribuie la probabilitatea de distorsiune a unui bit de cod arbitrar. Teorema conține o condiție de încetinire a transmisiei care garantează o probabilitate dată de livrare fără erori a mesajului cod către destinatar. Această teoremă este baza metodologică a codării de protecție împotriva zgomotului, ceea ce a condus la necesitatea introducerii unui „codor de canal” în structura sistemului de transmisie.
- A cincea teoremă este dedicată estimării capacității unui canal de comunicație continuu, caracterizat printr-o anumită lățime de bandă de frecvență și puteri date ale semnalului util și ale semnalului de interferență în canalul de comunicație. Teorema definește așa-numita limită Shannon.
- Ultima dintre teoreme, numită teorema Nyquist-Shannon-Kotelnikov, este dedicată problemei reconstrucției fără erori a unui semnal continuu din eșantioanele sale discrete în timp, ceea ce ne permite să formulăm o cerință pentru valoarea timpului discret. interval, determinat de lățimea spectrului de frecvență al semnalului continuu, și pentru a forma funcții de bază numite funcții de referință.
Trebuie spus că inițial mulți matematicieni din întreaga lume au avut îndoieli cu privire la baza de dovezi a acestor teoreme. Dar, de-a lungul timpului, comunitatea științifică s-a convins de corectitudinea tuturor postulatelor, găsindu-le confirmare matematică. În țara noastră, A.Ya Khinchin și-a dedicat eforturile acestei probleme. și Kolmogorov A.N. .
În 1956, faimosul Claude Shannon a părăsit Laboratoarele Bell fără a rupe legăturile cu acesta și a devenit profesor titular la două facultăți de la Institutul de Tehnologie din Massachusetts: matematică și inginerie electrică.
Orez. 4. Labirintul lui Shannon
Claude Shannon a avut întotdeauna multe interese care nu au legătură cu activitățile sale profesionale. Talentul ingineresc remarcabil al lui Shannon s-a manifestat în crearea a tot felul de mașini și mecanisme, inclusiv mouse-ul mecanic Tezeu, care rezolvă o problemă de labirint (Fig. 4), un computer cu operații pe numere romane, precum și computere și programe de joc. şah.
În 1966, la vârsta de 50 de ani, Claude Shannon s-a retras din predare și s-a dedicat aproape în întregime hobby-urilor sale. El creează un monociclu cu două șei, un cuțit pliabil cu o sută de lame, roboți care rezolvă un cub Rubik și un robot care jonglează cu bile. În plus, Shannon însuși continuă să-și perfecționeze abilitățile de jongler, ducând numărul de bile la patru (Fig. 5). Martori ai tinereții sale de la Laboratoarele Bell și-au amintit cum s-a plimbat pe coridoarele companiei cu un monociclu, în timp ce jonglea cu mingi.
Orez. 5. Claude Shannon - jongler
Din păcate, Claude Shannon nu a avut contacte strânse cu oamenii de știință sovietici. Cu toate acestea, a reușit să viziteze URSS în 1965 la invitația Societății Științifice și Tehnice de Inginerie Radio, Electronică și Comunicații (NTORES) numită după A.S. Popova. Unul dintre inițiatorii acestei invitații a fost multiplu campion mondial la șah Mikhail Botvinnik, doctor în științe tehnice, profesor, care era și inginer electrician și era interesat de programarea șahului. O discuție plină de viață a avut loc între Mikhail Botvinnik și Claude Shannon despre problemele computerizării artei șahului. Participanții au ajuns la concluzia că acest lucru a fost foarte interesant pentru programare și nepromițător pentru șah. După discuție, Shannon i-a cerut lui Botvinnik să joace șah cu el și în timpul jocului a avut chiar un ușor avantaj (o turnă pentru un cavaler și un pion), dar tot a pierdut la a 42-a mutare.
În ultimii ani ai vieții sale, Claude Shannon a fost grav bolnav. A murit în februarie 2001, într-un azil de bătrâni din Massachusetts, din cauza bolii Alzheimer, la vârsta de 85 de ani.
Claude Shannon a lăsat o bogată moștenire aplicată și filozofică. El a creat o teorie generală a automatizării discrete și a dispozitivelor tehnologice computerizate, o tehnologie pentru utilizarea eficientă a capabilităților mediului de canal. Toți arhivatorii moderni utilizați în lumea computerelor se bazează pe teorema de codificare eficientă a lui Shannon. Baza moștenirii sale filozofice constă din două idei. În primul rând: scopul oricărui management ar trebui să fie reducerea entropiei ca măsură a incertitudinii și dezordinei în mediul sistemului. Managementul care nu rezolvă această problemă este redundant, adică inutil. Al doilea este că totul în această lume este, într-un anumit sens, un „canal de comunicare”. Canalul de comunicare este o persoană, o echipă, un întreg mediu funcțional, o industrie, o structură de transport și țara în ansamblu. Și dacă nu coordonați soluțiile tehnice, informaționale, umanitare, guvernamentale cu capacitatea mediului de canal pentru care sunt concepute, atunci nu vă așteptați la rezultate bune.
Literatură
- Shannon C. E. O teorie matematică a comunicării. Jurnalul tehnic Bell Systems. iulie și oct. 1948 // Claude Elwood Shannon. Lucrări adunate. N.Y., 1993. P. 8-111.
- Shannon C. E. Comunicarea în prezența zgomotului. Proc.IRE. 1949. V. 37. Nr. 10.
- Shannon C. E. Teoria comunicării sistemelor de secretizare. Jurnalul tehnic Bell Systems. iulie și oct. 1948 // Claude Elwood Shannon. Lucrări adunate. N.Y., 1993. P. 112-195.
- Mașini automate. Culegere de articole ed. K. E. Shannon, J. McCarthy / Trad. din engleză M.: Din-înăuntru. aprins. 1956.
- Robert M. Fano Transmission of information: A statistical theory of communication. Publicat în comun de M.I.T., PRESS și JOHN WILEY & SONS, INC. New York, Londra. 1961.
- www. cercetare.att. com/~njas/doc/ces5.html.
- Kolmogorov A. N. Prefață // Lucrări despre teoria informației și cibernetică / K. Shannon; BANDĂ din engleză sub. ed. R.L. Dobrushina si O.B. Lupanova; prefaţă A. N. Kolmogorov. M., 1963.
- Levin V.I.K.E. Shannon și știința modernă // Buletinul TSTU. 2008. Volumul 14. Nr 3.
- Viner N. Ya – matematician / Trad. din engleză M.: Știință. 1964.
- Khinchin A. Ya Despre principalele teoreme ale teoriei informaţiei. UMN 11:1 (67) 1956.
- Kolmogorov A. N. Teoria transmiterii informaţiei. // Sesiunea Academiei de Științe a URSS pe probleme științifice ale automatizării producției. 15–20 octombrie 1956 Sesiune plenară. M.: Editura Academiei de Științe a URSS, 1957.
- Kolmogorov A. N. Teoria informației și teoria algoritmilor. M.: Nauka, 1987.
Claude Elwood Shannon(30 aprilie 1916 – 24 februarie 2001) a fost un matematician, inginer electrician și criptograf american cunoscut sub numele de „Părintele Teoriei Informației”.
Shannon cunoscut pentru că a scris bazele teoriei informației, Teoria comunicării matematice, pe care a publicat-o în 1948. La vârsta de 21 de ani, pe când era student la master la Institutul de Tehnologie din Massachusetts (MIT), el a scris o disertație care dovedește că aplicatii electriceÎn algebra booleană, puteți construi orice relații logice, numerice. Claude Elwood Shannon a adus contribuții majore în domeniul criptoanalizei pentru apărarea națională în timpul celui de-al Doilea Război Mondial, inclusiv lucrările sale majore privind ruperea codurilor și fiabilitatea telecomunicațiilor.
În 1950, Shannon a publicat o lucrare despre șahul pe computer intitulată „Programming a Computer to Play Chess”. Descrie modul în care o mașină sau un computer poate fi programat să joace jocuri de logica, șah. Așa-numitele proceduri minimax sunt responsabile pentru procesul de mutare al computerului, bazat pe o evaluare a funcției unei poziții date de șah. Shannon a dat un exemplu brut de evaluare a unei funcții în care valoarea poziției negre a fost scăzută din poziția albă. Valorile au fost calculate pe baza punctajului unei piese de șah obișnuite (1 punct pentru un pion, 3 puncte pentru un cavaler sau episcop, 5 puncte pentru o turnă și 9 puncte pentru o regină). El a analizat câțiva factori de poziție, scăzând 0,5 puncte pentru fiecare pion dublat, pioni înapoi și izolați și adăugând 0,1 puncte pentru fiecare mișcare bună. Citat din document:
„Coeficienții 0,5 și 0,1 sunt doar o estimare aproximativă a scriitorului. În plus, există multe alte condiții care trebuie incluse. Formula este dată doar pentru claritate.”
În 1932, Shannon a fost înscris la Universitatea din Michigan, unde la unul dintre cursurile sale a făcut cunoștință cu lucrările lui George Boole. În 1936, Claude a absolvit Universitatea din Michigan cu o dublă specializare în matematică și inginerie electrică și a mers la Institutul de Tehnologie din Massachusetts (MIT), unde a lucrat ca asistent de cercetare. El a îndeplinit sarcini de operator pe un dispozitiv de calcul mecanic, un computer analog numit „analizor diferențial”, dezvoltat de el supraveghetor științific Vanvar Bush. Studiind circuitele electrice complexe, înalt specializate, ale unui analizor diferențial, Shannon a văzut că conceptele lui Boole puteau fi folosite în mod adecvat. După ce a lucrat în vara anului 1937 la Bell Telephone Laboratories, el a scris o lucrare bazată pe teza de master în acel an, „Analiza simbolică a circuitelor de releu și comutare”. Trebuie remarcat faptul că Frank Lauren Hitchcock a coordonat lucrarea de master și a oferit critici și sfaturi utile. Articolul în sine a fost publicat în 1938 în publicația Institutului American de Ingineri Electrici (AIEE). În această lucrare, el a arătat că circuitele de comutare ar putea fi folosite pentru a înlocui circuitele de relee electromecanice utilizate apoi pentru a direcționa apelurile telefonice. Apoi a extins acest concept arătând că aceste circuite ar putea rezolva toate problemele pe care le-ar putea rezolva algebra booleană. De asemenea, în ultimul capitol, el prezintă prototipurile mai multor circuite, de exemplu, un sumator pe 4 biți. Pentru acest articol, Shannon a primit Premiul Nobel Alfred de către Institutul American de Ingineri Electrici în 1940. Capacitatea dovedită de a implementa orice calcul logic în circuitele electrice a stat la baza proiectării circuitelor digitale. Și circuitele digitale sunt, după cum știm, baza tehnologiei moderne de calcul, astfel, rezultatele muncii sale sunt unul dintre cele mai importante rezultate științifice ale secolului XX. Howard Gardner de la Universitatea Harvard a numit lucrarea lui Shannon „poate cea mai importantă, precum și cea mai faimoasă teză de master a secolului”.
La sfatul lui Bush, Shannon a decis să urmeze un doctorat în matematică la MIT. Bush a fost numit președinte al Instituției Carnegie din Washington și a invitat-o pe Shannon să ia parte la munca de genetică condusă de Barbara Burks. Potrivit lui Bush, genetica ar putea servi drept subiect al eforturilor lui Shannon. Shannon însuși, după ce a petrecut o vară în Woods Hole, Massachusetts, a devenit interesat să găsească o bază matematică pentru legile moștenirii lui Mendel. Teza de doctorat a lui Shannon, intitulată „The Algebra of Theoretical Genetics”, a fost finalizată în primăvara anului 1940. Cu toate acestea, această lucrare nu a fost lansată decât în 1993, când a apărut în Shannon's Collected Papers. Altfel, cercetarea sa ar fi devenit destul de importantă, dar majoritatea acestor rezultate au fost obținute independent de el. Shannon urmează un doctorat în matematică și un master în inginerie electrică. După aceasta nu s-a mai întors la cercetările în biologie.
Shannon era interesat şi de aplicarea matematicii în sisteme informatice, cum ar fi sistemele de comunicații. După o altă vară petrecută la Bell Labs în 1940 Shannon de unul an universitar a devenit cercetător la Institut cercetare avansatăîn Princeton, New Jersey, SUA. Acolo a lucrat sub îndrumarea celebrului matematician Hermann Weyl și, de asemenea, a avut ocazia să discute ideile sale cu oameni de știință și matematicieni influenți, inclusiv cu John von Neumann. Avea și el întâlniri aleatorii cu Albert Einstein și Kurt Gödel. Shannon a lucrat liber într-o varietate de discipline și este posibil ca această abilitate să fi contribuit la dezvoltarea ulterioară a teoriei sale matematice a informațiilor.
El este fondatorul teoriei informației, care și-a găsit aplicație în sistemele moderne de comunicații de înaltă tehnologie. Shannon a adus contribuții enorme la teoria circuitelor probabilistice, la teoria automatelor și la teoria sistemelor de control - domenii ale științei incluse în conceptul de „cibernetică”. În 1948, el a propus să folosească cuvântul „bit” pentru a însemna cea mai mică unitate informație (în articolul „Teoria matematică a comunicării”).
Biografie
Claude Shannon s-a născut pe 30 aprilie 1916 în Petocki, Michigan, SUA. Claude și-a petrecut primii șaisprezece ani din viață în Gaylord, Michigan, unde a absolvit Gaylord Comprehensive High School în 1932. În tinerețe, a lucrat ca curier pentru Western Union. Tatăl său a fost avocat și de ceva vreme judecător. Mama lui era profesoară de limbi străine și mai târziu a devenit directorul Gaylord liceu. Tânărul Claude era interesat de proiectarea dispozitivelor mecanice și automate. A adunat modele de avioane și circuite radio, a creat o barcă radiocontrolată și un sistem de telegraf între casa unui prieten și a lui. Uneori trebuia să repare posturi de radio pentru un magazin local. Thomas Edison era ruda lui îndepărtată.
La sfatul lui Bush, Shannon a decis să urmeze un doctorat în matematică la MIT. Ideea viitoarei sale lucrări i-a venit în vara anului 1939, când lucra într-un laborator din Cold Spring Harbor (New York). Bush a fost numit președinte al Instituției Carnegie din Washington și a invitat-o pe Shannon să ia parte la munca pe care Barbara Berks o făcea în domeniul geneticii. Potrivit lui Bush, genetica ar putea servi drept subiect al eforturilor lui Shannon. Teza de doctorat a lui Shannon, intitulată „Algebra pentru genetică teoretică”, a fost finalizată în primăvara anului 1940. Shannon urmează un doctorat în matematică și un master în inginerie electrică.
În perioada 1941-1956. Shannon predă la Universitatea din Michigan și lucrează la Bell Labs. În laboratorul lui Bell, Shannon, examinând circuitele de comutare, descoperă noua metoda organizarea lor, ceea ce vă permite să reduceți numărul de contacte releu necesare pentru implementarea funcțiilor logice complexe. El a publicat o lucrare intitulată „Organizarea circuitelor de comutare dublu-pol”. Shannon a lucrat la problemele creării circuitelor de comutare, dezvoltând o metodă menționată pentru prima dată de von Neumann, care a făcut posibilă crearea de circuite mai fiabile decât releele din care erau compuse. La sfârșitul anului 1940, Shannon a primit Premiul Național de Cercetare. În primăvara anului 1941 s-a întors la Bell. Odată cu izbucnirea celui de-al Doilea Război Mondial, T. Fry a condus lucrările la un program pentru sistemele de control al focului pentru apărarea aeriană. Shannon s-a alăturat grupului lui Fry și a lucrat la dispozitive care detectau avioanele inamice și ținteau tunurile antiaeriene și, de asemenea, a dezvoltat sisteme criptografice, inclusiv comunicații guvernamentale, care asigurau negocieri între Churchill și Roosevelt peste ocean. După cum a spus însuși Shannon, munca în domeniul criptografiei l-a împins să creeze teoria informației.
Din 1950 până în 1956, Shannon s-a angajat în crearea mașinilor logice, continuând astfel eforturile lui von Neumann și Turing. El a creat o mașină care putea juca șah cu mult înainte ca Deep Blue să fie creat. În 1952, Shannon a creat o mașină de rezolvare a labirinturilor.
Shannon s-a pensionat la vârsta de cincizeci de ani, în 1966, dar a continuat să consulte pentru Bell Labs. În 1985, Claude Shannon și soția sa Betty participă la Simpozionul Internațional de Teoria Informației din Brighton. Shannon nu a participat la conferințe internaționale destul de mult timp și la început nici măcar nu l-au recunoscut. La banchet, Claude Shannon a ținut un scurt discurs, a jonglat cu doar trei mingi și apoi a oferit sute și sute de autografe oamenilor de știință și ingineri uimiți care stăteau într-o coadă lungă, simțind sentimente reverente față de marele om de știință, comparându-l cu Sir. Isaac Newton.
Teoria comunicării în sisteme secrete
Lucrarea lui Shannon „The Theory of Communication in Secret Systems” (1945), clasificată drept „secretă”, care a fost desecretizată și publicată abia în 1949, a servit drept începutul unor cercetări extinse în teoria codificării și transmiterii informațiilor și, în opinia generală, a dat criptografiei statutul de știință. Claude Shannon a fost cel care a început să studieze criptografia folosind abordare științifică. În acest articol, Shannon a definit conceptele fundamentale ale teoriei criptografiei, fără de care criptografia nu mai este de conceput. Meritul important al lui Shannon este cercetarea sistemelor absolut sigure și dovada existenței lor, precum și existența unor cifruri puternice din punct de vedere criptografic și condițiile necesare pentru aceasta. Shannon a formulat, de asemenea, cerințele de bază pentru cifrurile puternice. El a introdus conceptele acum familiare de împrăștiere și amestecare, precum și metode de creare a unor sisteme de criptare puternice din punct de vedere criptografic, bazate pe operațiuni simple. Acest articol este punctul de plecare pentru studierea științei criptografiei.
Articolul „Teoria matematică a comunicării”
Articolul „Teoria matematică a comunicării” a fost publicat în 1948 și l-a făcut pe Claude Shannon celebru în lume. În ea, Shannon și-a conturat ideile, care au devenit ulterior baza teorii moderneși tehnici de procesare, transmitere și stocare a informațiilor. Rezultatele muncii sale în domeniul transmiterii informațiilor prin canale de comunicare au lansat un număr imens de studii în întreaga lume. Shannon a generalizat ideile lui Hartley și a introdus conceptul de informație conținută în mesajele transmise. Ca măsură a informației mesajului transmis, Hartley a propus utilizarea unei funcții logaritmice. Shannon a fost primul care a luat în considerare mesajele transmise și zgomotul în canalele de comunicare din punct de vedere statistic, luând în considerare atât seturi finite, cât și continue de mesaje. Teoria informației dezvoltată de Shannon a ajutat la rezolvarea principalelor probleme asociate cu transmiterea mesajelor și anume: eliminarea redundanței mesajelor transmise, codificarea și transmiterea mesajelor prin canalele de comunicare cu zgomot.
Rezolvarea problemei redundanței mesajului de transmis permite utilizarea cât mai eficientă a canalului de comunicare. De exemplu, metodele moderne, utilizate pe scară largă pentru reducerea redundanței în sistemele de difuzare de televiziune în prezent, fac posibilă transmiterea a până la șase programe de televiziune comerciale digitale în banda de frecvență ocupată de un semnal de televiziune analogic convențional.
Rezolvarea problemei transmiterii unui mesaj prin canalele de comunicație cu zgomot pentru un raport dat dintre puterea semnalului util și puterea semnalului de interferență la locația de recepție permite transmiterea mesajelor prin canalul de comunicație cu o probabilitate arbitrar scăzută de eroare. transmiterea mesajului. De asemenea, acest raport determină capacitatea canalului. Acest lucru este asigurat prin utilizarea codurilor care sunt rezistente la interferențe, în timp ce rata de transmitere a mesajelor pe un anumit canal trebuie să fie mai mică decât capacitatea acestuia.
Astăzi, toate sistemele de comunicații digitale sunt proiectate pe baza principiilor și legilor fundamentale ale transmiterii informațiilor dezvoltate de Shannon. Conform teoriei informațiilor, redundanța este mai întâi eliminată din mesaj, apoi informația este codificată folosind coduri rezistente la interferențe și abia apoi mesajul este transmis consumatorului prin canal. Datorită teoriei informației, redundanța mesajelor de televiziune, voce și fax a fost redusă semnificativ.
O mare cantitate de cercetare a fost dedicată creării de coduri rezistente la zgomot și metode simple de decodare a mesajelor. Cercetările efectuate în ultimii cincizeci de ani au stat la baza Recomandării de aplicare a ITU codare rezistentă la zgomotși metode de codificare a surselor de informații în sistemele digitale moderne.
Teorema capacităţii canalului.
Orice canal zgomotos este caracterizat de o rată maximă de transmitere a informațiilor, această limită fiind numită după Shannon. La transmiterea informațiilor la viteze care depășesc această limită, apare o distorsiune inevitabilă a datelor, dar de sub această limită poate fi abordată cu acuratețea necesară, asigurând o probabilitate de eroare arbitrar mică în transmiterea informațiilor pe un canal zgomotos.
Claude Ellwood Shannon a fost un matematician, inginer electronic și criptograf american, premiat, cunoscut drept creatorul teoriei informației.
Eroul nostru a fost cel care a propus cândva folosirea conceptului de „bit”, cunoscut astăzi de toată lumea, ca echivalent al celei mai mici unități de informație.
Shannon a devenit faimos ca omul care a dat naștere teoriei informației într-o lucrare de referință pe care a publicat-o în 1948. În plus, i se atribuie și ideea de a crea computerul digital și tehnologiile digitale în general, încă din 1937, când Shannon era un student de 21 de ani la Institutul de Tehnologie din Massachusetts, care lucra la masterat. - a scris apoi o disertație în care a demonstrat că utilizarea algebrelor booleene în domeniul electronicii poate construi și rezolva orice logic, numeric
comunicatii. Un articol bazat pe disertația sa i-a adus un premiu de la Institutul American de Ingineri Electrici în 1940.
În timpul celui de-al Doilea Război Mondial, Shannon a adus contribuții semnificative în domeniul criptoanalizei în timp ce lucra la apărarea națională, inclusiv proiectul său fundamental privind încălcarea codurilor și asigurarea telecomunicațiilor securizate.
Shannon s-a născut pe 30 aprilie 1916 în Petoskey, Michigan și a crescut în apropiere de Gaylord, Michigan. Tatăl lui a fost unul dintre acei oameni care se făcuse singuri. Descendent al primilor coloniști din New Jersey, a fost om de afaceri și judecător. Mama lui Claude a predat engleza și de ceva timp a condus
Școala Elementară Gaylord. Shannon și-a petrecut majoritatea primilor 16 ani din viață în Gaylord și a absolvit școala locală în 1932. Din copilărie, a fost interesat de construcția de modele mecanice și electrice. Subiectele lui preferate erau știința și matematica, iar în timpul liber petrecut acasă, a construit modele de avioane, un model de barcă radio controlat și chiar un telegraf fără fir care îl lega la casa unui prieten care locuia la o jumătate de milă de familia Shannon. .
În adolescență, Claude a lucrat cu jumătate de normă ca curier pentru Western Union. Eroul său din copilărie a fost Thomas Edison, care, după cum sa dovedit mai târziu, era și o rudă îndepărtată. Ambii erau descendenți
ami John Ogden, lider colonial din secolul al XVII-lea și strămoș al multora oameni remarcabili. Ceea ce nu era interesat de Shannon era politica. Mai mult, era ateu.
În 1932, Claude a devenit student la Universitatea din Michigan, unde unul dintre cursurile sale l-a introdus în complexitatea algebrei Boole. După ce a absolvit în 1936 cu două diplome de licență, în matematică și inginerie electrică, și-a continuat studiile la MIT, unde a lucrat la unul dintre primele calculatoare analogice, analizorul diferențial Vannevar Bush - atunci și-a dat seama că conceptele de boolean algebra ar putea fi aplicată la mai util. Teza lui Shannon pentru gradul m
teza de master a fost intitulată „Analiza simbolică a releelor și întrerupătoarelor” și este considerată de experți una dintre cele mai importante teze de master ale secolului XX.
În primăvara anului 1940, Shannon și-a luat doctoratul în matematică de la MIT cu o disertație despre „Algebra pentru genetică teoretică”, iar în următorii 19 ani, din 1941 până în 1956, a predat la Universitatea din Michigan și a lucrat la Bell Labs, unde interesul i-a fost stârnit de sistemele de protecție împotriva incendiilor și de criptografie (așa a făcut în timpul celui de-al Doilea Război Mondial).
La Bell Labs, Shannon și-a întâlnit viitoarea soție, Betty Shannon, care lucra în analiză numerică. S-au căsătorit în 1949. În 1956, Shannon s-a întors la MIT,
unde i s-a oferit un scaun și a lucrat acolo timp de 22 de ani.
Hobby-urile sale includeau jongleria, călăria cu monociclul și șahul. El a inventat un număr mare de dispozitive amuzante diferite, inclusiv discuri zburătoare cu motor rachetă, o „lăcustă” cu un motor și o țeavă care aruncă flăcări pentru o expoziție de știință. El este, de asemenea, creditat, alături de Edward O. Thorp, drept inventatorul primului computer portabil - au folosit acest dispozitiv pentru a îmbunătăți șansele de a câștiga la ruletă, iar incursiunile lor în Las Vegas au fost foarte reușite.
Lor ultimii ani Shannon a petrecut timp într-un azil de bătrâni care suferea de boala Alzheimer. S-a stins din viață la 24 februarie 2001.
