http___www.informatika.buzdo.com_s020-kolicina-informacije.htm_1.xml
1.1 1.2 1.3 1.4 1.5 1.6 1.7 2.1 2.2 2.3 2.4 3.1 4.1 5.1 6.1 7.1 7.2 8.1 8.2 10.1 10.2 10.3 10.4 11.1 12.1 12.2 12.3 12.4 12.5 12.6 12.7 13.1 13.2 14.1 15.1 16.1 17.1 18.1 19.1 20.1 23.1 24.1 25.1 26.1 27.1 27.2 28.1 29.1 30.1 31.1 31.2 32.1 32.2 33.1 34.1 36.1 36.2 36.3 37.1 38.1 38.2 39.1 39.2 40.1 40.2 41.1 41.2
Message may or may not contain the information. For example, a person 'A' is considered a person 'B' hurling stones into the air. Person 'B' person says 'A' to the stone fell to the ground. Person 'A' message does not bring new information about the event, because it falls on the ground stone no doubt. Result of the event the person 'A' 100% known and probable, because otherwise it can not be. These messages contain no information. The amount of information in it is equal to zero. But if a person 'A' flip a coin in the air and said person 'B' to the coin fell to the ground on one side, the message also contains no information because the person 'B' does not deprive the doubts about the results. 50% is possible that the coin falls to one side, and 50% is possible that the coin falls the other way. But the message that the coin falls and showed 'number' contains new information about the event and contains information. The amount of information in the message is greater than zero. The message that describes the exact result of the uncertain event, contain a certain amount of information. Example I When throwing the dice and roulette ball, bowlers are watchers said the following messages:A.) dice is shown one of the six numbers, Individual messages to be added to the descriptions as follows: The message contains the information because it eliminates the uncertainty regarding the results of dice. How dice has six equal sides, likely to show this number is: The message contains a full description of the impossible. In this case the DEGRADATION information. This example shows that the uncertainty of events affects the amount of information contained in the message. The amount of information is larger when the event uncertain. Knowing the outcome of events removes doubt, and VAGUENESS of events - ENTROPY. Increasing amounts of information reduces the entropy. Example II Three politicians walk one behind the other in a column. The first politician says: 'Before me no politician, and behind me were two politicians'. Another politician says: 'In front of me and behind me is the one politician'. The third politician says: 'In front of me were two politicians behind me were two politicians'. How is this possible? The extent to which these messages accurately describe the event and include the information? The answer is at the bottom of the summary. Information does not contain a message that describes the event 100% sure, but it contains a message that describes an event that has at least TWO CHOICES, or event that is less than 50% probable. Event with two possible outcomes separates the state of existence of the state of lack of information, and it is taken as a MEASURE of the amount of information. The amount of information is calculated by the expression: Measure the amount of information is called a BIT (BInary digiT) and the amount of information, 50% of likely events: I = log2[1 / (1/2)] = log22 = 1 b (one bit) BIT is like an electrical switch that can take one of two equally possible scenarios: turned on - a symbolic mark "1" turned off - a symbolic mark "0" Logarithm to the base 2 was considered to simplify the amount of information amounts to 50% of the probable result of the event. Message under B.) and E.) from the previous example would contain the amount of information: Example III How much information in one place carries pulse sequence shown in Figure 1.1.3 ? At one site at a time and can not be that there is a pulse, that is positive or negative, which symbolically represents the state of "1" or "0", and the amount of information in one place in a sequence of pulses: I = 1 b (one bit) BIT as the unit was quite unsuitable for practical use and introduced the concept of BYTE, a compound of the term 'BinarY TErm' as a label that refers to acts associated with a single character. In the early days of digital computing era of bits for one character was not the same for all types of computer systems, but today was the widely held notion that it is a collection of 8 bits. AGREEMENT: 8 b (bit-a) = 1 B = ONE BYTE 16 b = 2 B = WORD 32 b = 4 B = LONG WORD 4 b = 1/2 B = HALF BYTE Thus, two sequences of pulses is shown in Figure 1.1.3 represent the two BYTEs and the deployment of 'units' and 'zero' they can be summarized as follows: Each of the sequences can join 'code' that unambiguously defines ga and consists only of the digits "1" and "0" or uses a two-digit counting system. Zero bit 'b0' is the least significant bit and usually has a label LSB (Least Significant Bit) and will 'b7' has the greatest importance and usually has a label MSB (Most Significant Bit). If the pulse duration at shorter transmit more bits per unit time. Number of bits in one second (bps = bits per second ; bit rate) velocity signaling expressed in the unit BAUD (symbol Bd): Example IV If the duration of the pulses 200 microseconds, which is the speed of signal transmission? Definition of signal transmission speed can not be applied in this sense to the analog signals. Also, do not be confused with the speed of propagation of the signal through the medium, which is much higher in the medium and in terms of the data is not of importance. Baud rate is a measure of the signal only speed data transfer from source to destination. SUMMARY: Importance of INFORMATION very nicely described by a Croatian scientist 'Without substances there is nothing, no energy, nothing happens, no information, nothing makes sense' (J. Božičević 1995.). The interior of the computers 'bustles' traffic of bits and bytes, which are used for practically everything. Some never change value (permanent memory), and some are continuous (working memory) or to 'walk' on the computer at the specified interconnection paths collected from multiple lines - BUS. Exceptional importance of these terms is identified by the fact that the titles of the magazine IT profession just to them. Represent the fundamental concepts of informatics. It is surprising that this set of "0" and "1" fundamentally changes human life today and sets new standards of literacy and success. As for the politicians, the message does not exactly describe the event as a third politician is lying, but contain information that indicates that every possible politician is a liar!
1.1 1.2 1.3 1.4 1.5 1.6 1.7 2.1 2.2 2.3 3.1 4.1 5.1 6.1 7.1 7.2 8.1 8.2 10.1 10.2 10.3 10.4 11.1 12.1 12.2 12.3 12.4 12.5 12.6 12.7 13.1 13.2 14.1 15.1 16.1 17.1 18.1 19.1 20.1 23.1 24.1 25.1 26.1 27.1 27.2 28.1 29.1 30.1 31.1 31.2 32.1 32.2 33.1 34.1 36.1 36.2 36.3 37.1 38.1 39.1 39.2 40.1 40.2 41.1 41.2
Poruka može i ne mora sadržavati informaciju. Na primjer, osoba 'A' promatra osobu 'B' kako baca kamen u zrak. Osoba 'B' poručuje osobi 'A' da je kamen pao na zemlju. Osobi 'A' poruka ne donosi nova saznanja o događaju, jer oko pada kamena na zemlju nema dvojbe. Rezultat događaja je osobi 'A' 100% poznat i vjerojatan, jer drugačije ne može biti. Takva poruka u sebi ne sadrži informaciju. Količina informacije u njoj jednaka je nuli. Ako pak osoba 'A' u zrak baci novčić i poruči osobi 'B' da je novčić pao na zemlju na jednu od strana, poruka također ne sadrži informaciju jer osobu 'B' ne lišava dvojbe oko rezultata. 50% je moguće da novčić padne na jednu stranu, odnosno 50% je moguće da novčić padne na drugu stranu. Ali poruka da je novčić po padu pokazao 'broj' sadrži novo saznanje o događaju i u sebi sadrži informaciju. Količina informacije u poruci veća je od nule. Poruka koja egzaktno opisuje rezultat neizvjesnog događaja, sadrži u sebi određenu količinu informacije. Primjer I Prilikom bacanja kocke i kuglice ruleta, bacači su gledateljima priopćili slijedeće poruke:A.) kocka je pokazala jedan od šest brojeva, Pojedinim porukama valja pridružiti opise kako slijedi: p = 1 (100%)B.) Poruka sadrži informaciju jer otklanja dvojbu oko rezultata bacanja kocke. Kako kocka ima šest jednakih strana, vjerojatnost pokazivanja navedenog broja je: p = 1/6 (16.66%)C.) Poruka sadrži potpuno nemoguć opis. U ovom slučaju radi se o DEGRADACIJI informacije. Primjer pokazuje da neizvjesnost događaja utječe na količinu informacije sadržane u poruci. Količina informacije je veća što je događaj neizvjesniji. Saznanje o rezultatu događaja odstranjuje dvojbu, odnosno NEODREĐENOST događaja - ENTROPIJU. Povećanjem količine informacije smanjuje se entropija. Primjer II Tri političara hodaju jedan iza drugoga u koloni. Prvi političar kaže: 'Ispred mene nema političara, a iza mene su dva političara'. Drugi političar kaže: 'Ispred mene i iza mene je po jedan političar'. Treći političar kaže: 'Ispred mene su dva političara i iza mene su dva političara'. Kako je to moguće? U kolikoj mjeri navedene poruke egzaktno opisuju događaj i sadrže li informaciju? Odgovor je na dnu sažetka. Informaciju ne sadrži poruka koja opisuje 100% siguran događaj, ali sadrži poruka koja opisuje događaj koji ima barem DVA IZBORA, odnosno događaj koji je manje od 50% vjerojatan. Događaj s dva moguća rezultata razlučuje stanje postojanja od stanja nepostojanja informacije i uzima se kao MJERA količine informacije. Količina informacije računa se izrazom: Mjera količine informacije naziva se BIT (BInary digiT = binarni broj) te je količina informacije 50% vjerojatnog događaja: I = log2[1 / (1/2)] = log22 = 1 b (jedan bit) BIT je kao električni prekidač koji može zauzeti jedno od dva jednako moguća stanja: uključen -- simbolička oznaka "1" isključen - simbolička oznaka "0" Za bazu logaritma uzeta je vrijednost 2 kako bi se pojednostavnio iznos količine informacije za 50% vjerojatan rezultat događaja. Poruke pod B.) i E.) iz prethodnog primjera sadržavala bi količinu informacije: Primjer III Koliko informacije nosi jedno mjesto u slijedu impulsa prikazanom na slici 1.1.3 ? Na jednom mjestu u isto vrijeme može i ne mora da postoji impuls, odnosno da bude pozitivan ili negativan što simbolički predstavlja stanja "1" ili "0", te je količina informacije za jedno mjesto u slijedu impulsa: I = 1 b (jedan bit) BIT je kao jedinica bio dosta neprikladan za praktičnu uporabu te je uveden pojam BYTE (BAJT), složenica od izraza 'BinarY TErm' kao oznaka koja se odnosi na radnje povezane uz jedan znak. U začecima digitalne računalne ere broj bit-a za jedan znak nije bio isti kod svih vrsta računalnih sustava, no danas je za taj pojam opće prihvaćeno da je to skup od 8 bit-a. DOGOVOR: 8 b (bit-a) = 1 B = JEDAN BAJT 16 b = 2 B = RIJEČ 32 b = 4 B = DUGA RIJEČ 4 b = 1/2 B = POLUBAJT Dakle, dva slijeda impulsa prikazana na slici 1.1.3 predstavljaju dva BAJT-a i razmještaj 'jedinica' i 'nula' može im se prikazati kao: Svakom od sljedova može se pridružiti 'broj' koji ga jednoznačno određuje i koji se sastoji samo od znamenki "1" i "0", odnosno koristi dvoznamenkasti sustav brojanja. Nulti bit ' b0 ' je najmanje značajan bit i obično ima oznaku LSB (Least Significant Bit), a bit ' b7 ' ima najveći značaj i obično ima oznaku MSB (Most Significant Bit). Ako je impuls po trajanju kraći, prenese se više bit-a u jedinici vremena. Broj bit-a u jednoj sekundi daje BRZINU PRIJENOSA SIGNALA u BOD-ima (baud): Primjer IV Ako je vrijeme trajanja impulsa 200 mikrosekundi, kolika je brzina prijenosa signala? Definicija brzine prijenosa signala ne može se u navedenom smislu primijeniti na analogne signale. Osim toga ne smije se miješati s brzinom rasprostiranja signala kroz sam medij, koja je u mediju znatno veća i u podatkovnom smislu nije od značaja. Brzina prijenosa signala isključivo je mjerilo brzine prijenosa podataka od izvora do odredišta. SAŽETAK: Značaj INFORMACIJE vrlo lijepo je opisao jedan naš znanstvenik: 'Bez tvari ništa ne postoji, bez energije ništa se ne zbiva, bez informacija ništa nema smisla' (J.Božičević 1995.). Unutrašnjost računala 'vrvi' od prometa bit-ova i byte-ova, koji se koriste praktički za sve. Neki nikad ne mijenjaju vrijednost (trajna memorija), a neki to neprekidno čine (radna memorija) ili se 'šetaju' po računalu po za to predviđenim putovima međuveze sabranih od više vodova - SABIRNICAMA (BUS). Izuzetan značaja navedenih pojmova prepoznaje se i po tome što se naslovi pojedinih časopisa informatičke struke upravo na njih odnose. Predstavljaju temeljne pojmove informatike. Upravo je začuđujuće kako taj skup "0" i "1" iz temelja izmjenjuje život čovjeka današnjice i postavlja nove standarde opismenjivanja i uspješnosti. A što se tiče političara; poruke egzaktno ne opisuju događaj jer treći političar laže, ali sadrže informaciju koja ukazuje da je svaki političar mogući lažov!