కోడింగ్ సిద్ధాంతం. కోడింగ్ రకాలు. కోడింగ్ సిద్ధాంతం యొక్క జననం కోడింగ్ పద్ధతుల వర్గీకరణ

"మీ సాంకేతిక భవిష్యత్తు కోసం మిమ్మల్ని సిద్ధం చేయడమే ఈ కోర్సు లక్ష్యం."

హే హబ్ర్. "మీరు మరియు మీ ఉద్యోగం" (+219, 2442 బుక్‌మార్క్‌లు, 394k రీడ్‌లు) అనే అద్భుతమైన కథనం గుర్తుందా?

కాబట్టి హామింగ్ (అవును, అవును, స్వీయ-తనిఖీ మరియు స్వీయ-సరిచేసే హామింగ్ కోడ్‌లు) అతని ఉపన్యాసాల ఆధారంగా వ్రాసిన మొత్తం పుస్తకం ఉంది. మేము దానిని అనువదిస్తాము, ఎందుకంటే మనిషి తన మనస్సులో మాట్లాడతాడు.

ఈ పుస్తకం కేవలం IT గురించి మాత్రమే కాదు, అద్భుతమైన వ్యక్తుల ఆలోచనా విధానాన్ని గురించిన పుస్తకం. “ఇది కేవలం సానుకూల ఆలోచన యొక్క ఛార్జ్ కాదు; ఇది గొప్ప పని చేసే అవకాశాలను పెంచే పరిస్థితులను వివరిస్తుంది."

మేము ఇప్పటికే 28 (30లో) అధ్యాయాలను అనువదించాము. మరియు మేము "కాగితంలో" ప్రచురణపై పని చేస్తున్నాము.

కోడింగ్ సిద్ధాంతం - I

కంప్యూటర్‌లను మరియు అవి ఎలా పని చేస్తాయో పరిశీలించిన తరువాత, మేము ఇప్పుడు సమాచార ప్రాతినిధ్యం యొక్క ప్రశ్నను పరిశీలిస్తాము: కంప్యూటర్లు మనం ప్రాసెస్ చేయాలనుకుంటున్న సమాచారాన్ని ఎలా సూచిస్తాయి. ఏదైనా అక్షరం యొక్క అర్థం అది ఎలా ప్రాసెస్ చేయబడిందనే దానిపై ఆధారపడి ఉంటుంది, ఉపయోగించిన బిట్‌కు యంత్రానికి నిర్దిష్ట అర్థం లేదు. చాప్టర్ 4లో సాఫ్ట్‌వేర్ చరిత్రను చర్చిస్తున్నప్పుడు, మేము కొన్ని సింథటిక్ ప్రోగ్రామింగ్ లాంగ్వేజ్‌ని పరిగణించాము, దీనిలో స్టాప్ ఇన్‌స్ట్రక్షన్ కోడ్ ఇతర సూచనల కోడ్‌తో సమానంగా ఉంటుంది. ఈ పరిస్థితి చాలా భాషలకు విలక్షణమైనది, సూచనల అర్థం సంబంధిత ప్రోగ్రామ్ ద్వారా నిర్ణయించబడుతుంది.

సమాచార ప్రాతినిధ్య సమస్యను సులభతరం చేయడానికి, పాయింట్ నుండి పాయింట్‌కి సమాచారాన్ని బదిలీ చేసే సమస్యను పరిగణించండి. ఈ ప్రశ్న సమాచారాన్ని సేవ్ చేసే ప్రశ్నకు సంబంధించినది. సమయం మరియు ప్రదేశంలో సమాచార ప్రసార సమస్యలు ఒకేలా ఉంటాయి. మూర్తి 10.1 సాధారణ సమాచార బదిలీ నమూనాను చూపుతుంది.

మూర్తి 10.1

మూర్తి 10.1 యొక్క ఎడమ వైపున సమాచారం యొక్క మూలం ఉంది. మోడల్‌ను పరిగణనలోకి తీసుకున్నప్పుడు, మూలం యొక్క స్వభావం మనకు ముఖ్యం కాదు. ఇది ఆల్ఫాబెటిక్ అక్షరాలు, సంఖ్యలు, గణిత సూత్రాలు, సంగీత గమనికలు, నృత్య కదలికలను సూచించే చిహ్నాల సమితి కావచ్చు - మూలం యొక్క స్వభావం మరియు దానిలో నిల్వ చేయబడిన అక్షరాల అర్థం ప్రసార నమూనాలో భాగం కాదు. మేము సమాచార మూలాన్ని మాత్రమే పరిగణిస్తాము, అటువంటి పరిమితితో, శక్తివంతమైన, సాధారణ సిద్ధాంతం పొందబడుతుంది, ఇది అనేక ప్రాంతాలకు విస్తరించబడుతుంది. ఇది అనేక అనువర్తనాల నుండి సంగ్రహణ.

1940ల చివరలో షానన్ సమాచార సిద్ధాంతాన్ని రూపొందించినప్పుడు, దానిని కమ్యూనికేషన్ సిద్ధాంతం అని పిలవాలని భావించారు, కానీ అతను సమాచారం అనే పదాన్ని నొక్కి చెప్పాడు. ఈ పదం పెరిగిన ఆసక్తి మరియు సిద్ధాంతంలో స్థిరమైన నిరాశ రెండింటికీ స్థిరమైన కారణం. పరిశోధకులు మొత్తం "సమాచార సిద్ధాంతాలను" నిర్మించాలని కోరుకున్నారు, వారు పాత్రల సమితికి సంబంధించిన సిద్ధాంతాలకు దిగజారారు. బదిలీ మోడల్‌కి తిరిగి వస్తున్నప్పుడు, బదిలీ కోసం ఎన్‌కోడ్ చేయాల్సిన డేటా యొక్క మూలం మా వద్ద ఉంది.

ఎన్‌కోడర్ రెండు భాగాలను కలిగి ఉంటుంది, మొదటి భాగాన్ని సోర్స్ ఎన్‌కోడర్ అంటారు, ఖచ్చితమైన పేరు సోర్స్ రకంపై ఆధారపడి ఉంటుంది. విభిన్న డేటా రకాల సోర్స్‌లు వివిధ రకాల ఎన్‌కోడర్‌లకు అనుగుణంగా ఉంటాయి.

ఎన్‌కోడింగ్ ప్రక్రియ యొక్క రెండవ భాగాన్ని ఛానెల్ కోడింగ్ అని పిలుస్తారు మరియు డేటా ట్రాన్స్‌మిషన్ కోసం ఛానెల్ రకంపై ఆధారపడి ఉంటుంది. అందువలన, ఎన్కోడింగ్ ప్రక్రియ యొక్క రెండవ భాగం ప్రసార ఛానెల్ రకానికి సరిపోలుతుంది. అందువలన, ప్రామాణిక ఇంటర్‌ఫేస్‌లను ఉపయోగిస్తున్నప్పుడు, మూలం నుండి డేటా మొదట ఇంటర్‌ఫేస్ అవసరాలకు అనుగుణంగా ఎన్‌కోడ్ చేయబడుతుంది, ఆపై ఉపయోగించిన డేటా ట్రాన్స్‌మిషన్ ఛానెల్ యొక్క అవసరాలకు అనుగుణంగా ఉంటుంది.

మోడల్ ప్రకారం, మూర్తి 10.1లో, డేటా లింక్ "అదనపు యాదృచ్ఛిక శబ్దం"కి లోబడి ఉంటుంది. ఈ సమయంలో సిస్టమ్‌లోని అన్ని శబ్దాలు విలీనం చేయబడతాయి. ఎన్‌కోడర్ అన్ని చిహ్నాలను వక్రీకరణ లేకుండా స్వీకరిస్తుందని మరియు డీకోడర్ లోపాలు లేకుండా దాని పనితీరును నిర్వహిస్తుందని భావించబడుతుంది. ఇది కొంత ఆదర్శీకరణ, కానీ అనేక ఆచరణాత్మక ప్రయోజనాల కోసం ఇది వాస్తవికతకు దగ్గరగా ఉంటుంది.

డీకోడింగ్ దశ కూడా రెండు దశలను కలిగి ఉంటుంది: ఛానెల్ - స్టాండర్డ్, స్టాండర్డ్ - డేటా రిసీవర్. బదిలీ ముగింపులో, డేటా వినియోగదారుకు బదిలీ చేయబడుతుంది. మళ్ళీ, వినియోగదారు ఈ డేటాను ఎలా అర్థం చేసుకుంటారో మేము పరిగణించము.

ముందుగా గుర్తించినట్లుగా, టెలిఫోన్ సందేశాలు, రేడియో, టీవీ కార్యక్రమాలు వంటి డేటా ట్రాన్స్‌మిషన్ సిస్టమ్, కంప్యూటర్ రిజిస్టర్‌లలోని సంఖ్యల సమితిగా డేటాను సూచిస్తుంది. మళ్ళీ, అంతరిక్షంలో ప్రసారం సమయం లేదా సమాచార నిల్వలో ప్రసారం నుండి భిన్నంగా లేదు. మీరు కొంత సమయం తర్వాత అవసరమైన సమాచారాన్ని కలిగి ఉన్నారా, అది తప్పనిసరిగా ఎన్‌కోడ్ చేయబడి, డేటా నిల్వ మూలం వద్ద నిల్వ చేయబడాలి. అవసరమైతే, సమాచారం డీకోడ్ చేయబడుతుంది. ఎన్‌కోడింగ్ మరియు డీకోడింగ్ సిస్టమ్ ఒకేలా ఉంటే, మేము డేటాను ట్రాన్స్‌మిషన్ ఛానెల్ ద్వారా మార్చకుండా ప్రసారం చేస్తాము.

భౌతిక శాస్త్రంలో సమర్పించబడిన సిద్ధాంతం మరియు సాధారణ సిద్ధాంతం మధ్య ఉన్న ప్రాథమిక వ్యత్యాసం మూలం మరియు రిసీవర్ వద్ద శబ్దం లేదని భావించడం. వాస్తవానికి, ఏదైనా పరికరాల్లో లోపాలు సంభవిస్తాయి. క్వాంటం మెకానిక్స్‌లో, శబ్దం అనిశ్చితి సూత్రం ప్రకారం ఏ దశలోనైనా సంభవిస్తుంది మరియు ప్రారంభ స్థితిగా కాదు; ఏదైనా సందర్భంలో, సమాచార సిద్ధాంతంలో శబ్దం అనే భావన క్వాంటం మెకానిక్స్‌లోని సారూప్య భావనకు సమానం కాదు.
నిర్దిష్టత కోసం, మేము సిస్టమ్‌లోని డేటా ప్రాతినిధ్యం యొక్క బైనరీ రూపాన్ని మరింత పరిశీలిస్తాము. ఇతర రూపాలు ఇదే విధంగా ప్రాసెస్ చేయబడతాయి, సరళత కోసం మేము వాటిని పరిగణించము.

చుక్కలు మరియు డాష్‌ల యొక్క క్లాసిక్ మోర్స్ కోడ్‌లో వలె వేరియబుల్ పొడవు యొక్క కోడెడ్ అక్షరాలతో సిస్టమ్‌లతో ప్రారంభిద్దాం, దీనిలో తరచుగా కనిపించే అక్షరాలు చిన్నవి మరియు అరుదైన అక్షరాలు పొడవుగా ఉంటాయి. ఈ విధానం అధిక కోడ్ సామర్థ్యాన్ని సాధించడానికి అనుమతిస్తుంది, అయితే ఇది చుక్కలు మరియు డాష్‌ల మధ్య ఖాళీ అక్షరాన్ని కలిగి ఉన్నందున, మోర్స్ కోడ్ బైనరీ కాదు, టెర్నరీ అని గమనించాలి. కోడ్‌లోని అన్ని అక్షరాలు ఒకే పొడవు ఉంటే, అటువంటి కోడ్‌ను బ్లాక్ అంటారు.

కోడ్ యొక్క మొదటి స్పష్టమైన అవసరమైన ఆస్తి శబ్దం లేనప్పుడు సందేశాన్ని నిస్సందేహంగా డీకోడ్ చేయగల సామర్థ్యం, ​​కనీసం ఇది కావాల్సిన ఆస్తిగా కనిపిస్తుంది, అయితే కొన్ని సందర్భాల్లో ఈ అవసరాన్ని విస్మరించవచ్చు. ప్రసార ఛానెల్ నుండి డేటా రిసీవర్‌కు 0సె మరియు 1సె స్ట్రీమ్‌గా కనిపిస్తుంది.

మేము రెండు ప్రక్కనే ఉన్న అక్షరాలను డబుల్ ఎక్స్‌టెన్షన్ అని, మూడు ప్రక్కనే ఉన్న క్యారెక్టర్‌లను ట్రిపుల్ ఎక్స్‌టెన్షన్ అని పిలుస్తాము మరియు సాధారణంగా మనం N అక్షరాలను పంపితే, రిసీవర్ N అక్షరాల బేస్ కోడ్‌కి జోడింపులను చూస్తాడు. రిసీవర్, N యొక్క విలువ తెలియక, ప్రసార బ్లాక్‌లుగా స్ట్రీమ్‌ను విభజించాలి. లేదా, మరో మాటలో చెప్పాలంటే, అసలు సందేశాన్ని పునర్నిర్మించడానికి రిసీవర్ తప్పనిసరిగా స్ట్రీమ్‌ను ప్రత్యేకమైన మార్గంలో కుళ్ళిపోగలగాలి.

తక్కువ సంఖ్యలో అక్షరాల వర్ణమాలని పరిగణించండి; సాధారణంగా వర్ణమాలలు చాలా పెద్దవిగా ఉంటాయి. పెద్ద అక్షరాలు మరియు చిన్న అక్షరాలు, సంఖ్యలు, సంకేతాలు, విరామ చిహ్నాలు సహా భాషా వర్ణమాలలు 16 నుండి 36 అక్షరాలతో ప్రారంభమవుతాయి. ఉదాహరణకు, ASCII పట్టికలో, 128 = 2^7 అక్షరాలు.
s1, s2, s3, s4 అనే 4 అక్షరాలతో కూడిన ప్రత్యేక కోడ్‌ను పరిగణించండి

s1 = 0; s2 = 00; s3 = 01; s4 = 11.

కింది స్వీకరించిన వ్యక్తీకరణను రిసీవర్ ఎలా అర్థం చేసుకోవాలి

ఎలా s1s1s4లేదా ఎలా s2s4?

మీరు ఈ ప్రశ్నకు నిస్సందేహంగా సమాధానం ఇవ్వలేరు, ఈ కోడ్ ఖచ్చితంగా డీకోడ్ చేయబడదు, కాబట్టి, ఇది సంతృప్తికరంగా లేదు. మరోవైపు, కోడ్

s1 = 0; s2 = 10; s3 = 110; s4 = 111

సందేశాన్ని ప్రత్యేకమైన రీతిలో డీకోడ్ చేస్తుంది. ఒక ఏకపక్ష స్ట్రింగ్‌ని తీసుకుందాం మరియు రిసీవర్ దానిని ఎలా డీకోడ్ చేస్తుందో పరిశీలిద్దాం. మీరు మూర్తి 10.IIలోని ఆకృతి ప్రకారం డీకోడింగ్ చెట్టును నిర్మించాలి. లైన్

1101000010011011100010100110 …

క్యారెక్టర్ బ్లాక్‌లుగా విభజించవచ్చు

110, 10, 0, 10, 0, 110, 111, 0, 0, 0, 10, 10, 0, 110, …

డీకోడింగ్ చెట్టును నిర్మించడానికి క్రింది నియమం ప్రకారం:

మీరు చెట్టు పైభాగంలో ఉంటే, తదుపరి అక్షరాన్ని చదవండి. మీరు చెట్టు యొక్క ఆకును చేరుకున్నప్పుడు, మీరు క్రమాన్ని అక్షరంగా మారుస్తారు మరియు ప్రారంభానికి తిరిగి వస్తారు.

అటువంటి చెట్టు ఉనికిలో ఉన్న కారణం ఏమిటంటే, ఏ అక్షరం మరొక దాని ఉపసర్గ కాదు, కాబట్టి డీకోడింగ్ చెట్టు పైకి ఎప్పుడు తిరిగి రావాలో మీకు ఎల్లప్పుడూ తెలుసు.

కింది వాటికి శ్రద్ధ చూపడం అవసరం. ముందుగా, డీకోడింగ్ అనేది ఖచ్చితంగా స్ట్రీమింగ్ ప్రక్రియ, దీనిలో ప్రతి బిట్ ఒకసారి మాత్రమే పరిశీలించబడుతుంది. రెండవది, ప్రోటోకాల్‌లు సాధారణంగా డీకోడింగ్ ప్రక్రియ ముగింపును సూచించే అక్షరాలను కలిగి ఉంటాయి మరియు సందేశం ముగింపును సూచించడానికి అవసరం.

వెనుక ఉన్న అక్షరాన్ని ఉపయోగించకపోవడం కోడ్ రూపకల్పనలో ఒక సాధారణ తప్పు. వాస్తవానికి, శాశ్వత డీకోడింగ్ మోడ్ అందించబడుతుంది, ఈ సందర్భంలో ముగింపు చిహ్నం అవసరం లేదు.

మూర్తి 10.II

తదుపరి ప్రశ్న స్ట్రీమింగ్ (తక్షణం) డీకోడింగ్ కోసం కోడ్‌లు. మునుపటి అక్షర మ్యాపింగ్ నుండి పొందిన కోడ్‌ను పరిగణించండి

s1 = 0; s2 = 01; s3 = 011; s4 = 111.

మనకు ఒక క్రమం ఉందని అనుకుందాం 011111...111 . మీరు సందేశం యొక్క వచనాన్ని డీకోడ్ చేయగల ఏకైక మార్గం సమూహంలో చివరి నుండి 3 వరకు ఉన్న బిట్‌లను సమూహపరచడం మరియు ఒకదాని కంటే ముందు సున్నాలు ఉన్న సమూహాలను ఎంచుకోండి, ఆపై మీరు డీకోడ్ చేయవచ్చు. అటువంటి కోడ్ ఒక ప్రత్యేకమైన మార్గంలో డీకోడ్ చేయగలదు, కానీ తక్షణమే కాదు! డీకోడ్ చేయడానికి, మీరు బదిలీ ముగిసే వరకు వేచి ఉండాలి! ఆచరణలో, ఈ విధానం డీకోడింగ్ వేగాన్ని (మెక్‌మిలన్ సిద్ధాంతం) స్థాయిని పెంచుతుంది, కాబట్టి, తక్షణ డీకోడింగ్ పద్ధతుల కోసం వెతకడం అవసరం.

ఒకే అక్షరాన్ని ఎన్‌కోడ్ చేయడానికి రెండు మార్గాలను పరిగణించండి, Si:

s1 = 0; s2 = 10; s3 = 110; s4=1110, s5=1111,

ఈ పద్ధతి కోసం డీకోడింగ్ చెట్టు మూర్తి 10.IIIలో చూపబడింది.

మూర్తి 10.III

రెండవ మార్గం

s1 = 00; s2 = 01; s3 = 100; s4=110, s5=111,

ఈ సంరక్షణ యొక్క డీకోడింగ్ చెట్టు మూర్తి 10.IVలో ప్రదర్శించబడింది.

కోడ్ నాణ్యతను కొలవడానికి అత్యంత స్పష్టమైన మార్గం కొన్ని సందేశాల సెట్‌ల సగటు పొడవు. దీన్ని చేయడానికి, ప్రతి చిహ్నం యొక్క కోడ్ పొడవును లెక్కించడం అవసరం, ఇది సంభవించే pi యొక్క సంబంధిత సంభావ్యతతో గుణించబడుతుంది. ఇది మీకు మొత్తం కోడ్ పొడవును ఇస్తుంది. q అక్షరాల వర్ణమాల కోసం సగటు పొడవు L కోడ్ కోసం సూత్రం క్రింది విధంగా ఉంటుంది

pi అనేది si అక్షరం సంభవించే సంభావ్యత, li అనేది ఎన్‌కోడ్ చేసిన అక్షరం యొక్క సంబంధిత పొడవు. సమర్థవంతమైన కోడ్ కోసం, L విలువ వీలైనంత తక్కువగా ఉండాలి. P1 = 1/2, p2 = 1/4, p3 = 1/8, p4 = 1/16 మరియు p5 = 1/16 అయితే, కోడ్ #1 కోసం మేము కోడ్ పొడవు యొక్క విలువను పొందుతాము.

మరియు కోడ్ #2 కోసం

పొందిన విలువలు మొదటి కోడ్‌కు ప్రాధాన్యతను సూచిస్తాయి.
వర్ణమాలలోని అన్ని పదాలు సంభవించే సంభావ్యతను కలిగి ఉంటే, రెండవ కోడ్ మరింత ప్రాధాన్యతనిస్తుంది. ఉదాహరణకు, pi = 1/5 తో, కోడ్ పొడవు #1

మరియు కోడ్ పొడవు #2

ఈ ఫలితం కోడ్ 2కి ప్రాధాన్యతని చూపుతుంది. అందువలన, "మంచి" కోడ్ రూపకల్పన చేసేటప్పుడు, అక్షరాలు సంభవించే సంభావ్యతను పరిగణనలోకి తీసుకోవాలి.

మూర్తి 10.IV

మూర్తి 10.వి

క్రాఫ్ట్ యొక్క అసమానతను పరిగణించండి, ఇది అక్షర కోడ్ పొడవు li యొక్క పరిమితి విలువను నిర్ణయిస్తుంది. ఆధారం 2 ప్రకారం, అసమానత ఇలా సూచించబడుతుంది

ఈ అసమానత వర్ణమాలలో చాలా చిన్న అక్షరాలు ఉండకూడదని చెబుతుంది, లేకుంటే మొత్తం చాలా పెద్దదిగా ఉంటుంది.

ఏదైనా వేగవంతమైన ప్రత్యేకమైన డీకోడబుల్ కోడ్ కోసం క్రాఫ్ట్ అసమానతను నిరూపించడానికి, మేము డీకోడింగ్ ట్రీని నిర్మిస్తాము మరియు గణిత ప్రేరణ పద్ధతిని వర్తింపజేస్తాము. చెట్టు ఒకటి లేదా రెండు ఆకులను కలిగి ఉంటే, మూర్తి 10.V లో చూపిన విధంగా, అసమానత నిజమని ఎటువంటి సందేహం లేదు. ఇంకా, చెట్టుకు రెండు కంటే ఎక్కువ ఆకులు ఉంటే, అప్పుడు మేము m పొడవు ఉన్న చెట్టును రెండు సబ్‌ట్రీలుగా విభజిస్తాము. ఇండక్షన్ సూత్రం ప్రకారం, ఎత్తు m -1 లేదా అంతకంటే తక్కువ ప్రతి శాఖకు అసమానత నిజమైనదని మేము ఊహిస్తాము. ఇండక్షన్ సూత్రం ప్రకారం, ప్రతి శాఖకు అసమానతను వర్తింపజేయడం. K" మరియు K"" అనే బ్రాంచ్ కోడ్‌ల పొడవులను సూచిస్తాము. చెట్టు యొక్క రెండు శాఖలు విలీనం అయినప్పుడు, ఒక్కొక్కటి పొడవు 1 పెరుగుతుంది, కాబట్టి, కోడ్ యొక్క పొడవు K'/2 మరియు K' మొత్తాలను కలిగి ఉంటుంది. '/2,

సిద్ధాంతం నిరూపించబడింది.

మాక్‌మిలన్ సిద్ధాంతం యొక్క రుజువును పరిగణించండి. స్ట్రీమ్‌వైజ్ కాని డీకోడబుల్ కోడ్‌లకు క్రాఫ్ట్ అసమానతను వర్తింపజేద్దాం. ఏదైనా సంఖ్య K > 1కి, సంఖ్య యొక్క nవ శక్తి ఖచ్చితంగా n యొక్క లీనియర్ ఫంక్షన్ కంటే ఎక్కువగా ఉంటుంది, ఇక్కడ n అనేది చాలా పెద్ద సంఖ్య. క్రాఫ్ట్ యొక్క అసమానతను nవ శక్తికి పెంచండి మరియు వ్యక్తీకరణను మొత్తంగా సూచించండి

Nk అనేది k పొడవు గల అక్షరాల సంఖ్య అయిన చోట, సమ్మషన్ nవ అక్షరం ప్రాతినిధ్యం యొక్క కనిష్ట పొడవుతో మొదలై nl గరిష్ట పొడవుతో ముగుస్తుంది, ఇక్కడ l అనేది ఎన్‌కోడ్ చేయబడిన అక్షరం యొక్క గరిష్ట పొడవు. ఇది ప్రత్యేకమైన డీకోడింగ్ అవసరం నుండి అనుసరిస్తుంది. మొత్తంగా సమర్పించబడింది

K > 1 అయితే, అసమానత తప్పుగా మారడానికి nను చాలా పెద్దదిగా సెట్ చేయడం అవసరం. అందువల్ల కె<= 1; теорема Макмиллана доказана.

క్రాఫ్ట్ యొక్క అసమానత యొక్క అప్లికేషన్ యొక్క కొన్ని ఉదాహరణలను పరిశీలిద్దాం. 1, 3, 3, 3 పొడవులతో ప్రత్యేకంగా డీకోడబుల్ కోడ్ ఉంటుందా? అవును ఎందువల్లనంటే

1, 2, 2, 3 పొడవుల గురించి ఏమిటి? సూత్రం ప్రకారం లెక్కించండి

అసమానత ఉల్లంఘించబడింది! ఈ కోడ్‌లో చాలా చిన్న అక్షరాలు ఉన్నాయి.

డాట్ కోడ్‌లు (కామా కోడ్‌లు) అనేవి 1 అక్షరాలను కలిగి ఉండే కోడ్‌లు, అక్షరం 0తో ముగిసేవి, చివరి అక్షరం మినహా, అన్నింటిని కలిగి ఉంటుంది. ప్రత్యేక సందర్భాలలో కోడ్ ఒకటి

s1 = 0; s2 = 10; s3 = 110; s4 = 1110; s5= 11111.

ఈ కోడ్ కోసం, మేము క్రాఫ్ట్ అసమానత కోసం వ్యక్తీకరణను పొందుతాము

ఈ సందర్భంలో, మేము సమానత్వాన్ని సాధిస్తాము. పాయింట్ కోడ్‌ల కోసం క్రాఫ్ట్ యొక్క అసమానత సమానత్వంగా క్షీణించడాన్ని చూడటం సులభం.

కోడ్‌ను నిర్మించేటప్పుడు, మీరు క్రాఫ్ట్ మొత్తానికి శ్రద్ధ వహించాలి. క్రాఫ్ట్ మొత్తం 1 కంటే ఎక్కువగా ఉంటే, సగటు కోడ్ పొడవును తగ్గించడానికి వేరొక పొడవు యొక్క చిహ్నాన్ని చేర్చడానికి ఇది సంకేతం.

క్రాఫ్ట్ యొక్క అసమానత ఈ కోడ్ ప్రత్యేకంగా డీకోడ్ చేయగలదని చెప్పడం లేదు, కానీ ప్రత్యేకంగా డీకోడ్ చేయగల అటువంటి పొడవు యొక్క చిహ్నాలతో ఒక కోడ్ ఉందని గమనించాలి. ప్రత్యేకమైన డీకోడబుల్ కోడ్‌ను రూపొందించడానికి, మీరు బిట్స్ liలో సంబంధిత పొడవును బైనరీ సంఖ్యగా కేటాయించవచ్చు. ఉదాహరణకు, 2, 2, 3, 3, 4, 4, 4, 4 పొడవుల కోసం మేము క్రాఫ్ట్ యొక్క అసమానతను పొందుతాము

కాబట్టి, అటువంటి ప్రత్యేకమైన డీకోడబుల్ స్ట్రీమ్ కోడ్ ఉండవచ్చు.

s1 = 00; s2 = 01; s3 = 100; s4 = 101;

S5 = 1100; s6 = 1101; s7 = 1110; s8 = 1111;

మేము ఆలోచనలను మార్పిడి చేసుకున్నప్పుడు వాస్తవానికి ఏమి జరుగుతుందో నేను శ్రద్ధ వహించాలనుకుంటున్నాను. ఉదాహరణకు, ఈ సమయంలో, నేను నా తల నుండి మీ ఆలోచనకు బదిలీ చేయాలనుకుంటున్నాను. నేను కొన్ని పదాలు చెబుతున్నాను, దాని ద్వారా మీరు ఈ ఆలోచనను అర్థం చేసుకోగలరని (పొందగలరని) నేను నమ్ముతున్నాను.

కానీ తర్వాత మీరు ఈ ఆలోచనను మీ స్నేహితుడికి తెలియజేయాలనుకున్నప్పుడు, మీరు ఖచ్చితంగా పూర్తిగా భిన్నమైన పదాలు చెబుతారు. వాస్తవానికి, ఏదైనా నిర్దిష్ట పదాలలో అర్థం లేదా అర్థం ఉండదు. నేను కొన్ని పదాలను ఉపయోగించాను, కానీ అదే ఆలోచనను తెలియజేయడానికి మీరు పూర్తిగా భిన్నమైన పదాలను ఉపయోగించవచ్చు. అందువలన, వివిధ పదాలు ఒకే సమాచారాన్ని తెలియజేయగలవు. కానీ, మీకు సందేశం అర్థం కాలేదని మీరు మీ సంభాషణకర్తకు చెప్పిన వెంటనే, ఒక నియమం ప్రకారం, సంభాషణకర్త అర్థాన్ని తెలియజేయడానికి వేరే పదాల సెట్‌ను తీసుకుంటాడు, రెండవది లేదా మూడవది కూడా. అందువల్ల, సమాచారం నిర్దిష్ట పదాల సమితిలో ఉండదు. మీరు నిర్దిష్ట పదాలను స్వీకరించిన తర్వాత, సంభాషణకర్త మీకు తెలియజేయాలనుకుంటున్న ఆలోచనలోకి పదాలను అనువదించడంలో గొప్ప పని చేయండి.

మేము సంభాషణకర్తకు అనుగుణంగా పదాలను ఎంచుకోవడం నేర్చుకుంటాము. ఒక కోణంలో, మేము మా ఆలోచనలు మరియు ఛానెల్‌లోని శబ్దం స్థాయికి అనుగుణంగా పదాలను ఎంచుకుంటాము, అయితే అలాంటి పోలిక నేను డీకోడింగ్ ప్రక్రియలో శబ్దాన్ని సూచించడానికి ఉపయోగించే మోడల్‌ను ఖచ్చితంగా ప్రతిబింబించదు. పెద్ద సంస్థలలో, ఇతర వ్యక్తి చెప్పేది వినడానికి సంభాషణకర్త అసమర్థత అనేది తీవ్రమైన సమస్య. ఉన్నత స్థానాలలో, ఉద్యోగులు "వారు ఏమి వినాలనుకుంటున్నారు" అని వింటారు. కొన్ని సందర్భాల్లో, మీరు కార్పొరేట్ నిచ్చెన పైకి కదులుతున్నప్పుడు దీన్ని గుర్తుంచుకోవాలి. అధికారిక రూపంలో సమాచారం యొక్క ప్రాతినిధ్యం మన జీవిత ప్రక్రియల యొక్క పాక్షిక ప్రతిబింబం మరియు కంప్యూటర్ అప్లికేషన్‌లలో అధికారిక నియమాల సరిహద్దులకు మించి విస్తృత అప్లికేషన్‌ను కనుగొంది.

కొనసాగుతుంది...

పుస్తకం యొక్క అనువాదం, లేఅవుట్ మరియు ప్రచురణలో ఎవరు సహాయం చేయాలనుకుంటున్నారు - వ్యక్తిగత లేదా ఇమెయిల్‌లో వ్రాయండి [ఇమెయిల్ రక్షించబడింది]

మార్గం ద్వారా, మేము మరొక అద్భుతమైన పుస్తకం యొక్క అనువాదాన్ని కూడా ప్రారంభించాము -

కోడింగ్. ప్రాథమిక భావనలు.

ప్రాచీన కాలం నుండి మానవ ఆచరణలో వివిధ కోడింగ్ పద్ధతులు విస్తృతంగా ఉపయోగించబడుతున్నాయి. ఉదాహరణకు, దశాంశ స్థాన సంఖ్య వ్యవస్థ అనేది సహజ సంఖ్యలను ఎన్‌కోడింగ్ చేసే మార్గం. సహజ సంఖ్యలను ఎన్కోడ్ చేయడానికి మరొక మార్గం రోమన్ సంఖ్యలు, మరియు ఈ పద్ధతి మరింత దృశ్యమానంగా మరియు సహజంగా ఉంటుంది, నిజానికి, ఒక వేలు - I, ఒక ఐదు - V, రెండు ఫైవ్‌లు - X. అయితే, ఈ ఎన్‌కోడింగ్ పద్ధతితో, అంకగణితాన్ని నిర్వహించడం చాలా కష్టం. పెద్ద సంఖ్యలో కార్యకలాపాలు, కాబట్టి ఇది స్థాన దశాంశ సంజ్ఞామానం ఆధారంగా పద్ధతి ఎన్‌కోడింగ్ ద్వారా భర్తీ చేయబడింది. ఈ ఉదాహరణ నుండి, వివిధ ఎన్‌కోడింగ్ పద్ధతులు వాటి స్వంత నిర్దిష్ట లక్షణాలను కలిగి ఉన్నాయని మేము నిర్ధారించగలము, ఇవి ఎన్‌కోడింగ్ ప్రయోజనాలను బట్టి, నిర్దిష్ట ఎన్‌కోడింగ్ పద్ధతి యొక్క ప్రయోజనం మరియు దాని ప్రతికూలత రెండూ కావచ్చు.

రేఖాగణిత వస్తువుల సంఖ్యా కోడింగ్ యొక్క విస్తృతంగా తెలిసిన పద్ధతులు మరియు అంతరిక్షంలో వాటి స్థానం: కార్టీసియన్ కోఆర్డినేట్‌లు మరియు పోలార్ కోఆర్డినేట్‌లు. మరియు ఈ ఎన్‌కోడింగ్ పద్ధతులు వాటి నిర్దిష్ట లక్షణాలలో విభిన్నంగా ఉంటాయి.

20వ శతాబ్దం వరకు, కోడింగ్ పద్ధతులు మరియు సాధనాలు సహాయక పాత్రను పోషించాయి, అయితే కంప్యూటర్ల ఆగమనంతో, పరిస్థితి సమూలంగా మారిపోయింది. కోడింగ్ అనేది సమాచార సాంకేతికతలో విస్తృతంగా ఉపయోగించబడుతుంది మరియు అనేక రకాల సమస్యలను పరిష్కరించడంలో తరచుగా ప్రధాన సమస్యగా ఉంటుంది:

- కంప్యూటర్ మెమరీలో ఏకపక్ష స్వభావం (సంఖ్యలు, టెక్స్ట్, గ్రాఫిక్స్) యొక్క డేటా ప్రాతినిధ్యం;

- కమ్యూనికేషన్ ఛానెల్‌ల ద్వారా సరైన డేటా ట్రాన్స్‌మిషన్;

- అనధికారిక యాక్సెస్ నుండి సమాచారం (సందేశాలు) రక్షణ;

- కమ్యూనికేషన్ చానెల్స్ ద్వారా డేటా ట్రాన్స్మిషన్ సమయంలో శబ్దం రోగనిరోధక శక్తిని నిర్ధారించడం;

- సమాచార కుదింపు.

సమాచార సిద్ధాంతం దృక్కోణంలో, కోడింగ్ అనేది సందేశ మూలం యొక్క వర్ణమాల మరియు నిర్దిష్ట షరతులతో కూడిన చిహ్నాల సమితిని నిస్సందేహంగా సరిపోలే ప్రక్రియ, ఇది ఒక నిర్దిష్ట నియమం ప్రకారం నిర్వహించబడుతుంది మరియు కోడ్ (కోడ్ ఆల్ఫాబెట్) పూర్తి సెట్ ( సెట్) వివిధ షరతులతో కూడిన చిహ్నాలు (కోడ్ చిహ్నాలు) అసలు సందేశాన్ని ఎన్‌కోడింగ్ చేయడానికి ఉపయోగించవచ్చు మరియు ఈ ఎన్‌కోడింగ్ నియమం ప్రకారం సాధ్యమయ్యేవి. కోడ్ ఆల్ఫాబెట్‌ను రూపొందించే విభిన్న కోడ్ చిహ్నాల సంఖ్యను కోడ్ వాల్యూమ్ లేదా కోడ్ వర్ణమాల యొక్క వాల్యూమ్ అని పిలుస్తారు. సహజంగానే, కోడ్ ఆల్ఫాబెట్ వాల్యూమ్ ఎన్‌కోడ్ చేసిన అసలైన సందేశం యొక్క ఆల్ఫాబెట్ వాల్యూమ్ కంటే తక్కువగా ఉండకూడదు. ఈ విధంగా, కోడింగ్ అనేది అసలైన సందేశాన్ని కమ్యూనికేషన్ ఛానెల్‌లో ప్రసారం చేయబడిన సందేశాన్ని ప్రదర్శించే కోడ్ చిహ్నాల సమితి లేదా శ్రేణిగా మార్చడం.

కోడ్ చిహ్నాలు ప్రదర్శించబడే రూపాన్ని బట్టి ఎన్‌కోడింగ్ సంఖ్యా (డిజిటల్) మరియు నాన్-న్యూమరిక్ కావచ్చు: వరుసగా కొన్ని నంబర్ సిస్టమ్‌లోని సంఖ్యలు లేదా కొన్ని ఇతర వస్తువులు లేదా సంకేతాలు.

చాలా సందర్భాలలో, కోడ్ చిహ్నాలు కొన్ని సాధారణ భాగాల కలయిక లేదా క్రమం, ఉదాహరణకు, సంఖ్యా కోడ్ యొక్క కోడ్ చిహ్నాలలోని అంకెల శ్రేణి, వీటిని కోడ్ చిహ్నం యొక్క మూలకాలు అంటారు. కోడ్‌వర్డ్‌లోని మూలకం యొక్క స్థానం లేదా క్రమం సంఖ్య దాని స్థానం ద్వారా నిర్ణయించబడుతుంది.

అసలు సందేశ మూలంలోని ఒక అక్షర అక్షరాన్ని సూచించడానికి ఉపయోగించే కోడ్ చిహ్న మూలకాల సంఖ్యను కోడ్ విలువ అంటారు. అసలు సందేశం యొక్క వర్ణమాల యొక్క అన్ని అక్షరాలకు కోడ్ యొక్క విలువ ఒకే విధంగా ఉంటే, అప్పుడు కోడ్ ఏకరీతిగా పిలువబడుతుంది, లేకపోతే - ఏకరీతి కాదు. కోడ్ చిహ్నంలో చేర్చబడిన మూలకాల సంఖ్యను కొన్నిసార్లు కోడ్ చిహ్నం యొక్క పొడవు అని పిలుస్తారు.

రిడెండెన్సీ కోణం నుండి, అన్ని కోడ్‌లను అనవసరమైన కోడ్‌లు మరియు రిడెండెంట్‌గా విభజించవచ్చు. రిడెండెంట్ కోడ్‌లలో, మిగిలిన మూలకాల యొక్క మరింత సమర్థవంతమైన ఉపయోగం కారణంగా కోడ్ చిహ్నాల మూలకాల సంఖ్యను తగ్గించవచ్చు, అయితే అనవసరమైన కోడ్‌లలో, కోడ్ చిహ్నాలలోని మూలకాల సంఖ్యను తగ్గించడం అసాధ్యం.

జోక్యం లేనప్పుడు మరియు వారి సమక్షంలో కోడింగ్ చేసే పనులు గణనీయంగా భిన్నంగా ఉంటాయి. అందువల్ల, ప్రభావవంతమైన (గణాంక) కోడింగ్ మరియు దిద్దుబాటు (నాయిస్-కరెక్టింగ్) కోడింగ్ మధ్య వ్యత్యాసం ఉంటుంది. సమర్థవంతమైన కోడింగ్‌తో, కోడ్ యొక్క పునరుక్తిని తగ్గించడం ద్వారా సందేశ మూలం యొక్క వర్ణమాల యొక్క చిహ్నాల ప్రాతినిధ్యాన్ని సందేశ మూలం యొక్క వర్ణమాల యొక్క ఒక చిహ్నానికి సగటున కోడ్ చిహ్నాల మూలకాల యొక్క కనీస సంఖ్య ద్వారా సాధించడం పని, ఇది సందేశ ప్రసార వేగం పెరుగుదలకు దారితీస్తుంది. మరియు దిద్దుబాటు (నాయిస్-ఇమ్యూన్) కోడింగ్‌తో, అదనపు కోడ్ రిడెండెన్సీని ప్రవేశపెట్టడం ద్వారా లోపాలను గుర్తించడం మరియు సరిదిద్దడం ద్వారా అసలు వర్ణమాల యొక్క అక్షరాల ప్రసారంలో లోపాల సంభావ్యతను తగ్గించడం పని.

అనధికారిక యాక్సెస్, వక్రీకరణ మరియు విధ్వంసం నుండి సందేశాలను రక్షించడం కోడింగ్ యొక్క ప్రత్యేక పని. ఈ రకమైన ఎన్‌కోడింగ్‌తో, సందేశాలు ఎన్‌కోడ్ చేయబడతాయి, వాటిని స్వీకరించిన తర్వాత కూడా దాడి చేసే వ్యక్తి వాటిని డీకోడ్ చేయలేడు. ఈ రకమైన సందేశ ఎన్‌కోడింగ్ ప్రక్రియను ఎన్‌క్రిప్షన్ (లేదా ఎన్‌క్రిప్షన్) అని పిలుస్తారు మరియు డీకోడింగ్ ప్రక్రియను డిక్రిప్షన్ (లేదా డీక్రిప్షన్) అంటారు. ఎన్‌కోడ్ చేయబడిన సందేశాన్ని ఎన్‌క్రిప్టెడ్ (లేదా కేవలం ఎన్‌క్రిప్షన్) అని పిలుస్తారు మరియు ఉపయోగించే ఎన్‌కోడింగ్ పద్ధతిని సైఫర్ అంటారు.

చాలా తరచుగా, కోడింగ్ పద్ధతులు ప్రత్యేక తరగతిలో కేటాయించబడతాయి, ఇది అసలు సందేశం కంటే తక్కువగా ఉండే సందేశ కోడ్‌లను (సమాచారం కోల్పోకుండా) రూపొందించడానికి మిమ్మల్ని అనుమతిస్తుంది. ఇటువంటి ఎన్‌కోడింగ్ పద్ధతులను డేటా కంప్రెషన్ లేదా ప్యాకింగ్ పద్ధతులు అంటారు. కుదింపు నాణ్యత కుదింపు నిష్పత్తి ద్వారా నిర్ణయించబడుతుంది, ఇది సాధారణంగా శాతాలలో కొలుస్తారు మరియు ఎన్‌కోడ్ చేయబడిన సందేశం అసలైన దాని కంటే ఎన్ని శాతం తక్కువగా ఉందో చూపిస్తుంది.

కంప్యూటర్‌ను ఉపయోగించి సమాచారం యొక్క స్వయంచాలక ప్రాసెసింగ్‌లో, నియమం ప్రకారం, సంఖ్యా (డిజిటల్) కోడింగ్ ఉపయోగించబడుతుంది మరియు సహజంగానే, ఉపయోగించిన నంబర్ సిస్టమ్‌ను సమర్థించే ప్రశ్న తలెత్తుతుంది. నిజానికి, సంఖ్య వ్యవస్థ యొక్క ఆధారం తగ్గినప్పుడు, కోడ్ చిహ్నాల మూలకాల యొక్క వర్ణమాల సరళీకృతం చేయబడుతుంది, కానీ కోడ్ చిహ్నాలు పొడవుగా ఉంటాయి. మరోవైపు, సంఖ్య వ్యవస్థ యొక్క ఆధారం పెద్దది, కోడ్ యొక్క ఒక చిహ్నాన్ని సూచించడానికి తక్కువ సంఖ్యలో అంకెలు అవసరమవుతాయి మరియు తత్ఫలితంగా, దాని ప్రసారానికి తక్కువ సమయం ఉంటుంది, కానీ ఆధారం యొక్క పెరుగుదలతో నంబర్ సిస్టమ్, కమ్యూనికేషన్ ఛానెల్‌ల అవసరాలు మరియు ప్రాథమిక సంకేతాల గుర్తింపు సాంకేతిక సాధనాలు గణనీయంగా పెరుగుతాయి. , కోడ్ చిహ్నాల యొక్క వివిధ అంశాలకు అనుగుణంగా. ప్రత్యేకించి, బైనరీ నంబర్ సిస్టమ్‌లో వ్రాయబడిన సంఖ్య యొక్క కోడ్ సగటున దశాంశ కోడ్ కంటే సుమారు 3.5 రెట్లు ఎక్కువ. అన్ని ఇన్ఫర్మేషన్ ప్రాసెసింగ్ సిస్టమ్స్‌లో సంఖ్యా సమాచారం రూపంలో పెద్ద సమాచార శ్రేణులను నిల్వ చేయడం అవసరం కాబట్టి, సంఖ్యా కోడ్ యొక్క చిహ్నాల మూలకాల యొక్క వర్ణమాలను ఎంచుకోవడానికి అవసరమైన ప్రమాణాలలో ఒకటి (అంటే, ఉపయోగించిన నంబర్ సిస్టమ్ యొక్క ఆధారం) నిల్వ పరికరాలలో ఎలక్ట్రానిక్ మూలకాల సంఖ్యను, అలాగే వాటి సరళత మరియు విశ్వసనీయతను తగ్గించడం.

కోడ్ చిహ్నాల యొక్క ప్రతి మూలకాలను పరిష్కరించడానికి అవసరమైన ఎలక్ట్రానిక్ మూలకాల సంఖ్యను నిర్ణయించేటప్పుడు, దీనికి ఆధారానికి సమానమైన సరళమైన ఎలక్ట్రానిక్ మూలకాల సంఖ్య (ఉదాహరణకు, ట్రాన్సిస్టర్లు) అవసరమని ఆచరణాత్మకంగా సమర్థించబడిన ఊహ నుండి కొనసాగడం అవసరం. సంఖ్య వ్యవస్థ a. అప్పుడు కొన్ని పరికరంలో నిల్వ కోసం nకోడ్ చిహ్న అంశాలు అవసరం ఎంఎలక్ట్రానిక్ అంశాలు:

M = a n. (2.1)

ఈ పరికరంలో నిల్వ చేయగల అత్యధిక సంఖ్యలో విభిన్న సంఖ్యలు ఎన్:

N = ఒక.

ఈ వ్యక్తీకరణ యొక్క సంవర్గమానాన్ని తీసుకొని దాని నుండి వ్యక్తీకరించడం nమాకు దొరికింది:

n= ln ఎన్/ln a.

వ్యక్తీకరణ (2.1) రూపానికి మార్చడం

ఎం= a ∙ ln ఎన్/ln a(2.2)

సంవర్గమానాల యొక్క ఏ బేస్ వద్ద నిర్ణయించడం సాధ్యమవుతుంది aమూలకాల మొత్తం ఎంఇచ్చిన దానికి కనిష్టంగా ఉంటుంది ఎన్. సంబంధించి భేదం aఫంక్షన్ M = f(a)మరియు దాని ఉత్పన్నాన్ని సున్నాకి సమం చేస్తే, మనకు లభిస్తుంది:

సహజంగానే, ఏదైనా పరిమితికి a

ln ఎన్/ ln 2 a ≠ 0

మరియు అందుకే

ln a- 1 = 0,

ఎక్కడ a = e ≈ 2.7.

సంఖ్య వ్యవస్థ యొక్క ఆధారం పూర్ణాంకం మాత్రమే కాబట్టి, అప్పుడు a 2 లేదా 3కి సమానంగా ఎంచుకోండి. ఉదాహరణకు, నిల్వ పరికరం యొక్క గరిష్ట సామర్థ్యాన్ని సెట్ చేద్దాం ఎన్=10 6 సంఖ్యలు. తరువాత, సంఖ్యా వ్యవస్థల యొక్క వివిధ స్థావరాల కోసం ( aమూలకాల మొత్తం ( ఎం) అటువంటి నిల్వ పరికరంలో, వ్యక్తీకరణ (2.2) ప్రకారం, క్రింది (టేబుల్ 2.1):

పట్టిక 2.1.

a
ఎం	39,2	38,2	39,2	42,9		91,2

అందువల్ల, మేము పరికరాల మొత్తాన్ని కనిష్టీకరించకుండా కొనసాగితే, ఈ పరామితిలో దగ్గరగా ఉండే బైనరీ, టెర్నరీ మరియు క్వాటర్నరీ నంబర్ సిస్టమ్‌లు అత్యంత ప్రయోజనకరంగా ఉంటాయి. కానీ బైనరీ నంబర్ సిస్టమ్‌లో పనిచేసే పరికరాల సాంకేతిక అమలు చాలా సరళంగా ఉంటుంది కాబట్టి, బేస్ 2లోని నంబర్ సిస్టమ్ ఆధారంగా కోడ్‌లు సంఖ్యా కోడింగ్‌లో చాలా విస్తృతంగా ఉపయోగించబడతాయి.

సందేశాలను ప్రతిబింబించే సంకేతాలతో వాటిని గుర్తించే మార్గాలను అధ్యయనం చేసే సమాచార సిద్ధాంతం యొక్క శాఖ. కోడింగ్ సిద్ధాంతం యొక్క పని కమ్యూనికేషన్ ఛానెల్‌తో సమాచార మూలాన్ని సమన్వయం చేయడం.

కోడింగ్ యొక్క వస్తువు అనేది సమాచార మూలం ద్వారా వినియోగదారునికి వచ్చే వివిక్త మరియు నిరంతర సమాచారం. కోడింగ్ భావన అంటే సమాచారాన్ని నిర్దిష్ట కమ్యూనికేషన్ ఛానెల్ ద్వారా ప్రసారం చేయడానికి అనుకూలమైన రూపంలోకి మార్చడం.

రివర్స్ ఆపరేషన్ - డీకోడింగ్ - స్వీకరించిన సందేశాన్ని ఎన్‌కోడ్ చేసిన ఫారమ్ నుండి సాధారణంగా ఆమోదించబడిన వాటికి పునరుద్ధరించడంలో ఉంటుంది, ఇది వినియోగదారుకు అందుబాటులో ఉంటుంది.

కోడింగ్ సిద్ధాంతంలో అనేక ప్రాంతాలు ఉన్నాయి:

• స్టాటిక్ లేదా సమర్థవంతమైన కోడింగ్;
• నాయిస్-ఇమ్యూన్ కోడింగ్;
• దిద్దుబాటు సంకేతాలు;
• చక్రీయ సంకేతాలు;
• అంకగణిత సంకేతాలు.

నియంత్రణ వ్యవస్థల ఆగమనంతో, ప్రత్యేకించి కంప్యూటర్లలో, కోడింగ్ పాత్ర గణనీయంగా పెరిగింది మరియు మార్చబడింది, ఎందుకంటే కోడింగ్ లేకుండా సమాచార ప్రసారం అసాధ్యం. ఇటీవల, టెలికమ్యూనికేషన్ వ్యవస్థల అభివృద్ధికి మరియు సమాచారాన్ని ప్రాసెస్ చేయడానికి మరియు నిల్వ చేయడానికి కంప్యూటర్లను విస్తృతంగా ఉపయోగించడంతో, కొత్త జ్ఞాన రంగం ఉద్భవించింది - సమాచార భద్రత.

కోడింగ్ అనేది సిగ్నల్స్ మరియు మెసేజ్ ఎలిమెంట్స్ మధ్య కరస్పాండెన్స్ వ్యవస్థ రూపంలో దాని నిల్వ, ప్రాసెసింగ్ మరియు ట్రాన్స్మిషన్ సమయంలో సమాచారాన్ని ప్రదర్శించే సార్వత్రిక మార్గం, దీని సహాయంతో ఈ అంశాలు పరిష్కరించబడతాయి.

కోడ్ అనేది ఒక సంకేత రూపమైన సందేశం నుండి మరొక సందేశానికి నిస్సందేహంగా మార్చడానికి ఒక నియమం, సాధారణంగా సమాచారం కోల్పోకుండా.

అన్ని కోడ్ పదాలు ఒకే పొడవు కలిగి ఉంటే, ఆ కోడ్‌ని యూనిఫాం లేదా బ్లాక్ అంటారు.

వియుక్త వర్ణమాల ద్వారా మనం క్రమం చేయబడిన వివిక్త చిహ్నాల సెట్ అని అర్థం.

ఆల్ఫాబెటికల్ కోడింగ్.అక్షరక్రమం, అనగా. అక్షరం ద్వారా అక్షరం, కోడ్ పట్టిక ద్వారా కోడింగ్ సెట్ చేయవచ్చు. వాస్తవానికి, పరివర్తన కోడ్ ఒక రకమైన ప్రత్యామ్నాయం.

వర్ణమాల A, వర్ణమాల B లో కూర్చిన పదాల సమితిని ఎక్కడ, అక్షర కోడ్‌ల సమితిని ప్రాథమిక కోడ్‌ల సమితి అంటారు. ఏదైనా సందేశాల కోసం అక్షర ఎన్‌కోడింగ్‌ని ఉపయోగించవచ్చు.

కంప్యూటర్ డేటా ప్రాసెసింగ్ బైనరీ కోడ్ వాడకంపై ఆధారపడి ఉంటుంది. ఈ సార్వత్రిక ఎన్‌కోడింగ్ పద్ధతి దాని మూలం మరియు కంటెంట్‌తో సంబంధం లేకుండా ఏదైనా డేటాకు అనుకూలంగా ఉంటుంది.

టెక్స్ట్ ఎన్‌కోడింగ్

టెక్స్ట్‌లు కొన్ని వర్ణమాలలో చేర్చబడిన అక్షరాల వరుసక్రమాలు. టెక్స్ట్ ఎన్‌కోడింగ్ అది నిర్మించబడిన వర్ణమాల యొక్క బైనరీ ఎన్‌కోడింగ్‌కి తగ్గించబడింది. వర్ణమాల యొక్క అత్యంత సాధారణంగా ఉపయోగించే బైట్ ఎన్‌కోడింగ్. ఈ సందర్భంలో, వర్ణమాల యొక్క గరిష్ట సామర్థ్యం 256 అక్షరాలు. అటువంటి వర్ణమాలలో రెండు సెట్ల అక్షర అక్షరాలు (ఉదాహరణకు, రష్యన్ మరియు లాటిన్), సంఖ్యలు, విరామచిహ్నాలు మరియు గణిత చిహ్నాలు, ఖాళీ మరియు తక్కువ సంఖ్యలో అదనపు అక్షరాలు ఉండవచ్చు. అటువంటి వర్ణమాల యొక్క ఉదాహరణ ASCII కోడ్.

అయినప్పటికీ, ఈ రోజు 256 అక్షర కోడ్‌ల పరిమిత సెట్ అంతర్జాతీయ కమ్యూనికేషన్ యొక్క పెరిగిన అవసరాలను తీర్చదు. యూనివర్సల్ 16-బిట్ UNICODE క్యారెక్టర్ ఎన్‌కోడింగ్ సిస్టమ్ మరింత విస్తృతంగా మారుతోంది.

UNICODE కోడింగ్ సిస్టమ్‌లోని వర్ణమాల యొక్క శక్తి 216 = 65,536 వేర్వేరు కోడ్‌లు, వీటిలో 63,484 కోడ్‌లు చాలా వర్ణమాలల అక్షరాలకు అనుగుణంగా ఉంటాయి మరియు మిగిలిన 2048 కోడ్‌లు సగానికి విభజించబడ్డాయి మరియు 1024 నిలువు x 1024 పరిమాణంతో పట్టికను ఏర్పరుస్తాయి. పంక్తులు. ఈ పట్టికలో మిలియన్ కంటే ఎక్కువ సెల్‌లు ఉన్నాయి, ఇందులో మిలియన్ కంటే ఎక్కువ విభిన్న అక్షరాలు ఉంచవచ్చు. ఇవి "చనిపోయిన" భాషల చిహ్నాలు, అలాగే లెక్సికల్ కంటెంట్, పాయింటర్లు, సంకేతాలు మొదలైనవి లేని చిహ్నాలు. ఈ అదనపు అక్షరాలకు 16-బిట్ పదాల జత అవసరం (వరుస సంఖ్యకు 16 బిట్‌లు మరియు నిలువు వరుస సంఖ్యకు 16 బిట్‌లు).

అందువలన, UNICODE వ్యవస్థ అనేది జాతీయ వ్రాత వ్యవస్థల యొక్క అన్ని పాత్రలకు సార్వత్రిక కోడింగ్ వ్యవస్థ మరియు గణనీయమైన విస్తరణకు అవకాశం ఉంది.

చిత్రం ఎన్కోడింగ్

డ్రాయింగ్‌లు, చిత్రాలు, ఫోటోలు ఎన్‌కోడ్ చేయబడ్డాయి రాస్టర్ ఆకృతిలో. ఈ దృష్టిలో, ప్రతి చిత్రం రంగు చుక్కల దీర్ఘచతురస్రాకార పట్టిక. ప్రతి వ్యక్తి చుక్క యొక్క రంగు మరియు ప్రకాశం సంఖ్యా రూపంలో వ్యక్తీకరించబడుతుంది, ఇది గ్రాఫిక్ డేటాను సూచించడానికి బైనరీ కోడ్‌ను ఉపయోగించడాన్ని అనుమతిస్తుంది.

నలుపు మరియు తెలుపు చిత్రాలను గ్రేస్కేల్‌లో సూచించడం ఆచారం, దీని కోసం గ్రేస్కేల్ మోడల్ ఉపయోగించబడుతుంది. చుక్క యొక్క ప్రకాశం ఒక బైట్‌లో ఎన్‌కోడ్ చేయబడితే, 256 విభిన్న బూడిద రంగు టోన్‌లను ఉపయోగించవచ్చు. ఇటువంటి ఖచ్చితత్వం మానవ కన్ను యొక్క గ్రహణశీలత మరియు ప్రింటింగ్ సాంకేతికత యొక్క సామర్థ్యాలకు అనుగుణంగా ఉంటుంది.

రంగు చిత్రాలను ఎన్కోడింగ్ చేసేటప్పుడు, రంగును భాగాలుగా విడదీసే సూత్రం ఉపయోగించబడుతుంది; దీని కోసం, RGB మోడల్ ఉపయోగించబడుతుంది. స్క్రీన్‌పై రంగు చిత్రం మూడు ప్రాథమిక రంగులను కలపడం ద్వారా పొందబడుతుంది: ఎరుపు (ఎరుపు, R), నీలం (నీలం, B) మరియు ఆకుపచ్చ (ఆకుపచ్చ, G).

స్క్రీన్‌పై ఉన్న ప్రతి పిక్సెల్ ఈ రంగులలో మెరుస్తున్న మూడు దగ్గరగా ఉండే మూలకాలను కలిగి ఉంటుంది.

ఈ సూత్రాన్ని ఉపయోగించే రంగు ప్రదర్శనలను RGB మానిటర్లు అంటారు.

పిక్సెల్ కలర్ కోడ్ ప్రతి మూల రంగు యొక్క నిష్పత్తి గురించి సమాచారాన్ని కలిగి ఉంటుంది.

రంగు పథకం

మూడు భాగాలు ఒకే తీవ్రత (ప్రకాశం) కలిగి ఉంటే, వాటి కలయికల నుండి 8 వేర్వేరు రంగులను పొందవచ్చు (23):

			గోధుమ రంగు

24-బిట్ కలర్ డెప్త్‌లో కలర్ షేపింగ్:

ఎక్కువ రంగు లోతు, అందుబాటులో ఉన్న రంగుల విస్తృత పరిధి మరియు డిజిటలైజ్డ్ ఇమేజ్‌లో వాటి ప్రాతినిధ్యం మరింత ఖచ్చితమైనది. ఒకదానికి సమానమైన బిట్ డెప్త్ ఉన్న పిక్సెల్ 2 (మొదటి స్థాయికి) సాధ్యమయ్యే స్థితులను మాత్రమే కలిగి ఉంటుంది - రెండు రంగులు: నలుపు లేదా తెలుపు. 8 యూనిట్ల బిట్ డెప్త్ ఉన్న పిక్సెల్ 28 లేదా 256 రంగు విలువలను కలిగి ఉంటుంది. 24 యూనిట్ల బిట్ డెప్త్ ఉన్న పిక్సెల్ 224 డిగ్రీలు) లేదా 16.7 మిలియన్ సాధ్యం విలువలను కలిగి ఉంటుంది. 16.7 మిలియన్ రంగులను కలిగి ఉన్న 24-బిట్ చిత్రాలు మన చుట్టూ ఉన్న ప్రపంచంలోని రంగులను ఖచ్చితంగా తెలియజేస్తాయని నమ్ముతారు. నియమం ప్రకారం, బిట్ రిజల్యూషన్ 1 నుండి 48 బిట్స్/పిక్సెల్ పరిధిలో సెట్ చేయబడింది.

కాగితంపై ముద్రించేటప్పుడు, కొద్దిగా భిన్నమైన రంగు నమూనా ఉపయోగించబడుతుంది: మానిటర్ కాంతిని విడుదల చేస్తే, రంగులను జోడించడం వల్ల రంగు పొందబడుతుంది, అప్పుడు పెయింట్స్ కాంతిని గ్రహిస్తుంది, రంగులు తీసివేయబడతాయి. అందువల్ల, నీలం (సియాన్, సి), మెజెంటా (మెజెంటా, ఎం) మరియు పసుపు (పసుపు, వై) పెయింట్లను ప్రధానంగా ఉపయోగిస్తారు. అదనంగా, రంగుల ఆదర్శం లేని కారణంగా, నాల్గవది సాధారణంగా వాటికి జోడించబడుతుంది - నలుపు (నలుపు, K). ప్రతి పెయింట్ గురించి సమాచారాన్ని నిల్వ చేయడానికి, మరియు ఈ సందర్భంలో, 1 బైట్ చాలా తరచుగా ఉపయోగించబడుతుంది. ఈ కోడింగ్ వ్యవస్థను CMYK అంటారు.

ముతక రంగు ప్రాతినిధ్యం తక్కువ బిట్‌లను ఉపయోగిస్తుంది. ఉదాహరణకు, 16-బిట్ సంఖ్యలతో కలర్ గ్రాఫిక్స్ ఎన్‌కోడింగ్ చేయడాన్ని హై కలర్ అంటారు. ఈ సందర్భంలో, ప్రతి రంగుకు ఐదు అంకెలు కేటాయించబడతాయి.

ఆడియో మరియు వీడియో ఎన్‌కోడింగ్

సౌండ్ ఇన్ఫర్మేషన్‌తో పనిచేసే టెక్నిక్స్ కంప్యూటర్ టెక్నాలజీకి అన్నింటికంటే ఆలస్యంగా వచ్చాయి. ఏదైనా ఆడియో సిగ్నల్‌లకు వర్తించే విశ్లేషణాత్మక కోడింగ్ పద్ధతి అనలాగ్-టు-డిజిటల్ మార్పిడిపై ఆధారపడి ఉంటుంది. అసలైన అనలాగ్ సిగ్నల్ బైనరీ కోడ్‌లో వ్రాయబడిన డిజిటల్ సిగ్నల్‌ల క్రమం వలె సూచించబడుతుంది. మార్పిడి యొక్క బిట్ లోతు ఒకే డిజిటల్ సిగ్నల్‌కు సంబంధించిన డేటా మొత్తాన్ని నిర్ణయిస్తుంది. ధ్వనిని ప్లే చేస్తున్నప్పుడు, విలోమ డిజిటల్-టు-అనలాగ్ మార్పిడి నిర్వహించబడుతుంది.

ఈ కోడింగ్ పద్ధతి లోపాన్ని కలిగి ఉంది, తద్వారా పునరుత్పత్తి సిగ్నల్ అసలు నుండి కొంత భిన్నంగా ఉంటుంది.

పట్టిక సంశ్లేషణ ఆధారంగా కోడింగ్ పద్ధతి సంగీతానికి మాత్రమే వర్తిస్తుంది. వివిధ సంగీత వాయిద్యాల శబ్దాల నమూనాలు (నమూనాలు) ముందుగా తయారుచేసిన పట్టికలలో నిల్వ చేయబడతాయి. సంఖ్యా సంకేతాలు పరికరం, గమనిక మరియు ధ్వని యొక్క వ్యవధిని నిర్వచిస్తాయి.

వీడియో సిగ్నల్‌ను ఎన్‌కోడ్ చేస్తున్నప్పుడు, ఇమేజ్‌లు (ఫ్రేమ్‌లు) మరియు సౌండ్ (ఆడియో ట్రాక్) క్రమాన్ని రికార్డ్ చేయడం అవసరం. వీడియో రికార్డింగ్ ఫార్మాట్ రెండు డేటా స్ట్రీమ్‌లను ఒక డిజిటల్ సీక్వెన్స్‌లో చేర్చడానికి అనుమతిస్తుంది.

04/04/2006 లియోనిడ్ చెర్న్యాక్ వర్గం:సాంకేతికత

"ఓపెన్ సిస్టమ్స్" కంప్యూటర్లు వాటి రూపానికి ఏకకాలంలో సిగ్నల్ కోడింగ్ సిద్ధాంతం సృష్టించబడకపోతే వాటిని సృష్టించడం అసాధ్యం, కంప్యూటింగ్ అభివృద్ధిని గణనీయంగా ప్రభావితం చేసిన గణిత శాస్త్ర రంగాలలో కోడింగ్ సిద్ధాంతం ఒకటి.

"ఓపెన్ సిస్టమ్స్"

కంప్యూటర్ల రూపాన్ని ఏకకాలంలో, సిగ్నల్ కోడింగ్ సిద్ధాంతం సృష్టించకపోతే వాటిని సృష్టించడం అసాధ్యం.

కంప్యూటింగ్ అభివృద్ధిని గణనీయంగా ప్రభావితం చేసిన గణిత రంగాలలో కోడింగ్ సిద్ధాంతం ఒకటి. దీని పరిధి నిజమైన (లేదా ధ్వనించే) ఛానెల్‌ల ద్వారా డేటా ట్రాన్స్‌మిషన్‌కు విస్తరించింది మరియు ప్రసారం చేయబడిన సమాచారం యొక్క ఖచ్చితత్వాన్ని నిర్ధారించడం విషయం. మరో మాటలో చెప్పాలంటే, డేటాను ఎలా ప్యాక్ చేయాలో ఉత్తమంగా అధ్యయనం చేస్తుంది, తద్వారా సిగ్నలింగ్ తర్వాత, ఉపయోగకరమైన సమాచారాన్ని డేటా నుండి విశ్వసనీయంగా మరియు సులభంగా సంగ్రహించవచ్చు. కొన్నిసార్లు కోడింగ్ సిద్ధాంతం ఎన్‌క్రిప్షన్‌తో గందరగోళం చెందుతుంది, కానీ ఇది నిజం కాదు: క్రిప్టోగ్రఫీ విలోమ సమస్యను పరిష్కరిస్తుంది, దాని లక్ష్యం డేటా నుండి సమాచారాన్ని సేకరించడం కష్టతరం చేయడం.

డేటాను ఎన్కోడ్ చేయవలసిన అవసరం టెలిగ్రాఫ్ యొక్క ఆవిష్కరణ తర్వాత నూట యాభై సంవత్సరాల క్రితం మొదటిసారిగా ఎదుర్కొంది. ఛానెల్‌లు ఖరీదైనవి మరియు నమ్మదగనివి, దీని వలన టెలిగ్రామ్ ట్రాన్స్‌మిషన్ యొక్క ఖరీదును తగ్గించడం మరియు విశ్వసనీయతను పెంచడం అత్యవసరం. అట్లాంటిక్ కేబుల్స్ వేయడం వల్ల సమస్య తీవ్రమైంది. 1845 నుండి, ప్రత్యేక కోడ్ పుస్తకాలు వాడుకలోకి వచ్చాయి; వారి సహాయంతో, టెలిగ్రాఫిస్ట్‌లు మాన్యువల్‌గా "కంప్రెస్డ్" సందేశాలను, సాధారణ పద క్రమాలను చిన్న కోడ్‌లతో భర్తీ చేస్తారు. అదే సమయంలో, బదిలీ యొక్క ఖచ్చితత్వాన్ని తనిఖీ చేయడానికి, సమానత్వం ఉపయోగించడం ప్రారంభమైంది, ఇది మొదటి మరియు రెండవ తరాలకు చెందిన కంప్యూటర్లలో పంచ్ కార్డుల ఇన్పుట్ యొక్క ఖచ్చితత్వాన్ని తనిఖీ చేయడానికి కూడా ఉపయోగించబడింది. దీన్ని చేయడానికి, చెక్‌సమ్‌తో ప్రత్యేకంగా తయారు చేయబడిన కార్డ్ చివరి ఇన్‌పుట్ డెక్‌లోకి చొప్పించబడింది. ఇన్‌పుట్ పరికరం చాలా నమ్మదగినది కానట్లయితే (లేదా డెక్ చాలా పెద్దది), అప్పుడు లోపం సంభవించవచ్చు. దాన్ని సరిచేయడానికి, లెక్కించిన చెక్‌సమ్ కార్డ్‌లో నిల్వ చేయబడిన మొత్తానికి సరిపోలే వరకు ఇన్‌పుట్ విధానం పునరావృతమవుతుంది. ఈ పథకం అసౌకర్యంగా ఉండటమే కాకుండా, డబుల్ ఫాల్ట్‌లను కూడా కోల్పోతుంది. కమ్యూనికేషన్ ఛానెల్‌ల అభివృద్ధితో, మరింత ప్రభావవంతమైన నియంత్రణ యంత్రాంగం అవసరం.

ధ్వనించే ఛానెల్‌ల ద్వారా డేటా ట్రాన్స్‌మిషన్ సమస్యకు మొదటి సైద్ధాంతిక పరిష్కారాన్ని స్టాటిస్టికల్ ఇన్ఫర్మేషన్ థియరీ వ్యవస్థాపకుడు క్లాడ్ షానన్ ప్రతిపాదించారు. షానన్ అతని కాలపు స్టార్, అతను US విద్యావేత్తలలో ఒకడు. వన్నెవర్ బుష్ వద్ద గ్రాడ్యుయేట్ విద్యార్థిగా, 1940లో అతను నోబెల్ బహుమతిని అందుకున్నాడు (నోబెల్ బహుమతితో గందరగోళం చెందకూడదు!), 30 ఏళ్లలోపు శాస్త్రవేత్తలకు ప్రదానం చేశారు. బెల్ ల్యాబ్స్‌లో ఉన్నప్పుడు, షానన్ "ఎ మ్యాథమెటికల్ థియరీ ఆఫ్ మెసేజ్ ట్రాన్స్‌మిషన్" (1948) వ్రాశాడు, అక్కడ అతను ఛానెల్ యొక్క బ్యాండ్‌విడ్త్ సందేశ మూలం యొక్క ఎంట్రోపీ కంటే ఎక్కువగా ఉంటే, సందేశాన్ని ఎన్‌కోడ్ చేయవచ్చని చూపించాడు. అనవసరమైన ఆలస్యం లేకుండా ప్రసారం చేయబడుతుంది. ఈ ముగింపు షానన్ నిరూపించిన సిద్ధాంతాలలో ఒకదానిలో ఉంది, దాని అర్థం తగినంత బ్యాండ్‌విడ్త్‌తో ఛానెల్ ఉంటే, కొంత సమయం ఆలస్యంతో సందేశాన్ని ప్రసారం చేయవచ్చు. అదనంగా, అతను ఛానెల్‌లో శబ్దం సమక్షంలో నమ్మదగిన ప్రసారం యొక్క సైద్ధాంతిక అవకాశాన్ని చూపించాడు. ఫార్ములా C = W లాగ్ ((P+N)/N), షానన్ యొక్క నిరాడంబరమైన స్మారక చిహ్నంపై చెక్కబడి, మిచిగాన్‌లోని అతని స్వస్థలంలో ఏర్పాటు చేయబడింది, ఆల్బర్ట్ ఐన్‌స్టీన్ సూత్రం E = mc 2తో విలువతో పోల్చబడింది.

షానన్ యొక్క పని సమాచార సిద్ధాంత రంగంలో మరింత పరిశోధనలకు దారితీసింది, కానీ వాటికి ఆచరణాత్మక ఇంజనీరింగ్ అప్లికేషన్ లేదు. బెల్ ల్యాబ్స్‌లోని షానన్ సహోద్యోగి రిచర్డ్ హామింగ్ యొక్క ప్రయత్నాల ద్వారా సిద్ధాంతం నుండి అభ్యాసానికి మార్పు సాధ్యమైంది, అతను "హామింగ్ కోడ్‌లు" అని పిలువబడే కోడ్‌ల తరగతిని కనుగొనడంలో కీర్తిని పొందాడు. 40వ దశకం మధ్యలో బెల్ మోడల్ V రిలే కాలిక్యులేటింగ్ మెషీన్‌పై పంచ్ కార్డ్‌లతో పనిచేయడం వల్ల కలిగే అసౌకర్యం వారి హామింగ్ కోడ్‌ల ఆవిష్కరణకు కారణమైందని ఒక పురాణం ఉంది. ఆపరేటర్లు లేని వారాంతాల్లో యంత్రంలో పని చేయడానికి అతనికి సమయం ఇవ్వబడింది మరియు అతను స్వయంగా ఇన్‌పుట్‌తో ఫిడేల్ చేయాల్సి వచ్చింది. అది కావచ్చు, కానీ కంప్యూటర్లలోని డేటా ట్రాన్స్‌మిషన్ లైన్‌లతో సహా, ప్రధానంగా ప్రాసెసర్ మరియు మెమరీ మధ్య కమ్యూనికేషన్ ఛానెల్‌లలో లోపాలను సరిదిద్దగల సామర్థ్యం గల కోడ్‌లను హామింగ్ ప్రతిపాదించింది. హామింగ్ కోడ్‌లు షానన్ సిద్ధాంతాల ద్వారా సూచించబడిన అవకాశాలను ఆచరణలో ఎలా గ్రహించవచ్చో రుజువుగా మారాయి.

హామింగ్ తన పత్రాన్ని 1950లో ప్రచురించాడు, అయితే అంతర్గత నివేదికలు అతని కోడింగ్ సిద్ధాంతాన్ని 1947 నాటివి. అందువల్ల, కోడింగ్ సిద్ధాంతం యొక్క పితామహుడిగా పరిగణించబడాలని కొందరు నమ్ముతారు, షానన్ కాదు. అయితే, సాంకేతిక చరిత్రలో మొదటి కోసం వెతకడం పనికిరానిది.

"ఎర్రర్-కరెక్టింగ్ కోడ్స్" (ఎర్రర్-కరెక్టింగ్ కోడ్, ECC)ని మొదట ప్రతిపాదించింది హామింగ్ అని మాత్రమే ఖచ్చితంగా చెప్పవచ్చు. ఈ కోడ్‌ల యొక్క ఆధునిక మార్పులు అన్ని డేటా నిల్వ సిస్టమ్‌లలో మరియు ప్రాసెసర్ మరియు RAM మధ్య మార్పిడి కోసం ఉపయోగించబడతాయి. వాటి వేరియంట్‌లలో ఒకటైన రీడ్-సోలమన్ కోడ్‌లు CDలలో ఉపయోగించబడతాయి, ఇది గీతలు మరియు ధూళి కణాలను కలిగించే శబ్దాలు మరియు శబ్దాలు లేకుండా రికార్డింగ్‌లను ప్లే చేయడానికి అనుమతిస్తుంది. హామింగ్ ఆధారంగా కోడ్‌ల యొక్క అనేక సంస్కరణలు ఉన్నాయి, అవి కోడింగ్ అల్గోరిథంలు మరియు చెక్ బిట్‌ల సంఖ్యలో విభిన్నంగా ఉంటాయి. ఇంటర్‌ప్లానెటరీ స్టేషన్‌లతో డీప్ స్పేస్ కమ్యూనికేషన్‌ల అభివృద్ధికి సంబంధించి ఇటువంటి సంకేతాలు ప్రత్యేక ప్రాముఖ్యతను సంతరించుకున్నాయి, ఉదాహరణకు, రీడ్-ముల్లర్ కోడ్‌లు ఉన్నాయి, ఇక్కడ ఏడు సమాచార బిట్‌లకు 32 నియంత్రణ బిట్‌లు లేదా ఆరుకి 26 ఉన్నాయి.

తాజా ECC కోడ్‌లలో, LDPC (తక్కువ-సాంద్రత పారిటీ-చెక్ కోడ్) కోడ్‌లను పేర్కొనాలి. వాస్తవానికి, వారు సుమారు ముప్పై సంవత్సరాలుగా ప్రసిద్ది చెందారు, అయితే హై-డెఫినిషన్ టెలివిజన్ అభివృద్ధి చెందడం ప్రారంభించినప్పుడు వాటిపై ప్రత్యేక ఆసక్తి ఇటీవలి సంవత్సరాలలో ఖచ్చితంగా కనుగొనబడింది. LDPC కోడ్‌లు 100% నమ్మదగినవి కావు, అయితే ఛానల్ బ్యాండ్‌విడ్త్‌ను పూర్తి స్థాయిలో ఉపయోగించేటప్పుడు ఎర్రర్ రేట్‌ను కావలసిన స్థాయికి సర్దుబాటు చేయవచ్చు. "టర్బో కోడ్‌లు" వాటికి దగ్గరగా ఉంటాయి, లోతైన ప్రదేశంలో ఉన్న వస్తువులతో మరియు పరిమిత ఛానెల్ బ్యాండ్‌విడ్త్‌తో పని చేస్తున్నప్పుడు అవి ప్రభావవంతంగా ఉంటాయి.

కోడింగ్ సిద్ధాంత చరిత్రలో వ్లాదిమిర్ అలెగ్జాండ్రోవిచ్ కోటెల్నికోవ్ పేరు దృఢంగా లిఖించబడింది. 1933లో, "మెటీరియల్స్ ఆన్ రేడియో కమ్యూనికేషన్స్ ఫర్ ది ఫస్ట్ ఆల్-యూనియన్ కాంగ్రెస్ ఆన్ ది టెక్నికల్ రీకన్‌స్ట్రక్షన్ ఆఫ్ కమ్యూనికేషన్స్," అతను "ఆన్ ది బ్యాండ్‌విడ్త్? ఈథర్? మరియు వైర్లు? కోటెల్నికోవ్ పేరు, సమానమైనదిగా, కోడింగ్ సిద్ధాంతంలో అత్యంత ముఖ్యమైన సిద్ధాంతాలలో ఒకటిగా చేర్చబడింది. సమాచారాన్ని కోల్పోకుండా ప్రసారం చేయబడిన సిగ్నల్ పునరుద్ధరించబడే పరిస్థితులను ఈ సిద్ధాంతం నిర్వచిస్తుంది.

ఈ సిద్ధాంతాన్ని "WKS సిద్ధాంతం" (WKS అనే సంక్షిప్త పదం విట్టేకర్, కొటెల్నికోవ్, షానన్ నుండి తీసుకోబడింది)తో సహా అనేక రకాలుగా పిలువబడింది. కొన్ని మూలాధారాలలో, నైక్విస్ట్-షానన్ నమూనా సిద్ధాంతం మరియు విట్టేకర్-షానన్ నమూనా సిద్ధాంతం రెండూ ఉపయోగించబడతాయి మరియు దేశీయ విశ్వవిద్యాలయ పాఠ్యపుస్తకాలలో, కేవలం “కోటెల్నికోవ్ సిద్ధాంతం” చాలా తరచుగా కనుగొనబడుతుంది. వాస్తవానికి, సిద్ధాంతానికి సుదీర్ఘ చరిత్ర ఉంది. దీని మొదటి భాగాన్ని 1897లో ఫ్రెంచ్ గణిత శాస్త్రవేత్త ఎమిలే బోరెల్ నిరూపించారు. ఎడ్మండ్ విట్టేకర్ 1915లో సహకరించారు. 1920లో, జపనీస్ కిన్నోసుకి ఒగురా విట్టేకర్ పరిశోధనకు దిద్దుబాట్లను ప్రచురించారు మరియు 1928లో అమెరికన్ హ్యారీ నైక్విస్ట్ డిజిటలైజేషన్ మరియు అనలాగ్ సిగ్నల్ పునర్నిర్మాణం సూత్రాలను మెరుగుపరిచారు.

క్లాడ్ షానన్(1916 - 2001) అతని పాఠశాల సంవత్సరాల నుండి గణితం మరియు ఎలక్ట్రికల్ ఇంజనీరింగ్‌లో సమాన ఆసక్తిని కనబరిచాడు. 1932 లో, అతను 1936 లో మిచిగాన్ విశ్వవిద్యాలయంలో ప్రవేశించాడు - మసాచుసెట్స్ ఇన్స్టిట్యూట్ ఆఫ్ టెక్నాలజీలో, అతను 1940 లో పట్టభద్రుడయ్యాడు, రెండు డిగ్రీలను అందుకున్నాడు - ఎలక్ట్రికల్ ఇంజనీరింగ్‌లో మాస్టర్స్ డిగ్రీ మరియు గణితంలో డాక్టరేట్. 1941లో, షానన్ బెల్ లాబొరేటరీస్‌లో చేరాడు. ఇక్కడ అతను ఆలోచనలను అభివృద్ధి చేయడం ప్రారంభించాడు, అది తరువాత సమాచార సిద్ధాంతానికి దారితీసింది. 1948లో, షానన్ "మాథమెటికల్ థియరీ ఆఫ్ కమ్యూనికేషన్" అనే కథనాన్ని ప్రచురించాడు, ఇక్కడ శాస్త్రవేత్త యొక్క ప్రాథమిక ఆలోచనలు రూపొందించబడ్డాయి, ప్రత్యేకించి, ఎంట్రోపీ ద్వారా సమాచారం మొత్తాన్ని నిర్ణయించడం మరియు రెండింటి ఎంపికను నిర్ణయించే సమాచార యూనిట్‌ను కూడా ప్రతిపాదించారు. సమానంగా సంభావ్య ఎంపికలు, అంటే, తరువాత దానిని బిట్ అని పిలుస్తారు. 1957-1961లో, షానన్ ఇప్పుడు అతని పేరును కలిగి ఉన్న ధ్వనించే కమ్యూనికేషన్ ఛానెల్‌ల కోసం నిర్గమాంశ సిద్ధాంతాన్ని నిరూపించే రచనలను ప్రచురించాడు. 1957లో, షానన్ మసాచుసెట్స్ ఇన్‌స్టిట్యూట్ ఆఫ్ టెక్నాలజీలో ప్రొఫెసర్ అయ్యాడు, అక్కడి నుండి 21 సంవత్సరాల తర్వాత పదవీ విరమణ చేశాడు. "అర్హమైన విశ్రాంతి"లో షానన్ గారడీ చేయడం పట్ల తన పాత అభిరుచికి పూర్తిగా అంకితమయ్యాడు. అతను అనేక గారడి విద్య యంత్రాలను నిర్మించాడు మరియు గారడి విద్య యొక్క సాధారణ సిద్ధాంతాన్ని కూడా సృష్టించాడు.

రిచర్డ్ హామింగ్(1915 - 1998) చికాగో విశ్వవిద్యాలయంలో తన విద్యను ప్రారంభించాడు, అక్కడ అతను 1937లో బ్యాచిలర్ డిగ్రీని పొందాడు. 1939లో నెబ్రాస్కా విశ్వవిద్యాలయం నుండి మాస్టర్స్ డిగ్రీ మరియు ఇల్లినాయిస్ విశ్వవిద్యాలయం నుండి గణితంలో డాక్టరేట్ పొందారు. 1945లో, హామింగ్ మాన్‌హట్టన్ ప్రాజెక్ట్‌పై పని చేయడం ప్రారంభించాడు, ఇది అణు బాంబును నిర్మించడానికి ఒక భారీ ప్రభుత్వ పరిశోధన ప్రయత్నం. 1946లో, హామింగ్ బెల్ టెలిఫోన్ లాబొరేటరీస్‌లో చేరాడు, అక్కడ అతను క్లాడ్ షానన్‌తో కలిసి పనిచేశాడు. 1976లో, కాలిఫోర్నియాలోని మోంటెరీలోని నావల్ పోస్ట్ గ్రాడ్యుయేట్ స్కూల్‌లో హామింగ్ కుర్చీని అందుకున్నాడు.

అతనికి ప్రసిద్ధి చెందిన పని, దోష గుర్తింపు మరియు దిద్దుబాటు కోడ్‌ల యొక్క ప్రాథమిక అధ్యయనం, 1950లో హామింగ్‌చే ప్రచురించబడింది. 1956లో, అతను ప్రారంభ IBM 650 మెయిన్‌ఫ్రేమ్‌లలో ఒకదాని అభివృద్ధిలో పాల్గొన్నాడు.అతని పని ప్రోగ్రామింగ్ లాంగ్వేజ్‌కు పునాది వేసింది, అది తరువాత ఉన్నత స్థాయి ప్రోగ్రామింగ్ లాంగ్వేజ్‌లుగా పరిణామం చెందింది. కంప్యూటర్ సైన్స్ రంగంలో హామింగ్ చేసిన కృషికి గుర్తింపుగా, IEEE అతని పేరు మీద కంప్యూటర్ సైన్స్ మరియు సిస్టమ్స్ థియరీకి ఒక విశిష్ట సేవా పతకాన్ని ఏర్పాటు చేసింది.

వ్లాదిమిర్ కోటెల్నికోవ్(1908 - 2005) 1926లో అతను NE బామన్ (MVTU) పేరుతో మాస్కో హయ్యర్ టెక్నికల్ స్కూల్ యొక్క ఎలక్ట్రికల్ ఇంజనీరింగ్ విభాగంలోకి ప్రవేశించాడు, కానీ MVTU నుండి స్వతంత్ర సంస్థగా విడిపోయిన మాస్కో పవర్ ఇంజనీరింగ్ ఇన్స్టిట్యూట్ (MPEI) నుండి పట్టభద్రుడయ్యాడు. . గ్రాడ్యుయేట్ పాఠశాలలో (1931-1933) చదువుతున్నప్పుడు, కోటెల్నికోవ్ గణితశాస్త్రంలో "రిఫరెన్స్ సిద్ధాంతం" ను ఖచ్చితంగా రూపొందించాడు మరియు నిరూపించాడు, దీనికి అతని పేరు పెట్టారు. 1933లో గ్రాడ్యుయేట్ పాఠశాల నుండి పట్టా పొందిన తరువాత, మాస్కో పవర్ ఇంజినీరింగ్ ఇన్స్టిట్యూట్‌లో ఉపాధ్యాయుడిగా మిగిలిపోయిన కోటల్నికోవ్, సెంట్రల్ రీసెర్చ్ ఇన్స్టిట్యూట్ ఆఫ్ కమ్యూనికేషన్స్ (TsNIIS) లో పని చేయడానికి వెళ్ళాడు. 1941లో, V. A. కోటెల్నికోవ్ గణితశాస్త్రపరంగా వర్ణించలేని వ్యవస్థను సంతృప్తిపరచవలసిన అవసరాలపై స్పష్టమైన స్థితిని రూపొందించాడు మరియు దానిని అర్థంచేసుకోవడం అసాధ్యం అని రుజువు చేయబడింది. 1944 లో, కోటెల్నికోవ్ MPEI యొక్క రేడియో ఇంజనీరింగ్ ఫ్యాకల్టీ యొక్క ప్రొఫెసర్, డీన్ పదవిని చేపట్టారు, అక్కడ అతను 1980 వరకు పనిచేశాడు. 1953 లో, 45 సంవత్సరాల వయస్సులో, కోటెల్నికోవ్ వెంటనే USSR అకాడమీ ఆఫ్ సైన్సెస్ యొక్క పూర్తి సభ్యునిగా ఎన్నికయ్యారు. 1968 నుండి 1990 వరకు, V. A. కోటెల్నికోవ్ మాస్కో ఇన్స్టిట్యూట్ ఆఫ్ ఫిజిక్స్ అండ్ టెక్నాలజీలో ప్రొఫెసర్, డిపార్ట్‌మెంట్ హెడ్‌గా కూడా ఉన్నారు.

కోడింగ్ సిద్ధాంతం పుట్టుక

కోడింగ్ సిద్ధాంతం. కోడింగ్ రకాలు కోడింగ్ సిద్ధాంతం యొక్క ప్రాథమిక భావనలు గతంలో, కోడింగ్ సాధనాలు సహాయక పాత్రను పోషించాయి మరియు గణిత శాస్త్ర అధ్యయనం యొక్క ప్రత్యేక అంశంగా పరిగణించబడలేదు, కానీ కంప్యూటర్ల ఆగమనంతో, పరిస్థితి సమూలంగా మారిపోయింది. కోడింగ్ అక్షరాలా సమాచార సాంకేతికతను వ్యాప్తి చేస్తుంది మరియు వివిధ రకాల (ఆచరణాత్మకంగా అన్ని) ప్రోగ్రామింగ్ టాస్క్‌లను పరిష్కరించడంలో ప్రధాన సమస్య: ۞ కంప్యూటర్ మెమరీలో ఏకపక్ష స్వభావం (ఉదాహరణకు, సంఖ్యలు, టెక్స్ట్, గ్రాఫిక్స్) డేటాను సూచిస్తుంది; ۞ అనధికారిక యాక్సెస్ నుండి సమాచారం యొక్క రక్షణ; ۞ కమ్యూనికేషన్ చానెల్స్ ద్వారా డేటా ట్రాన్స్మిషన్ సమయంలో శబ్దం రోగనిరోధక శక్తిని నిర్ధారించడం; ۞ డేటాబేస్‌లలో సమాచారం యొక్క కుదింపు. కోడింగ్ సిద్ధాంతం అనేది సమాచార సిద్ధాంతం యొక్క శాఖ, ఇది సందేశాలను సూచించే సంకేతాలతో ఎలా గుర్తించబడుతుందో అధ్యయనం చేస్తుంది. టాస్క్: కమ్యూనికేషన్ ఛానెల్‌తో సమాచార మూలాన్ని సమన్వయం చేయండి. ఆబ్జెక్ట్: సమాచార మూలం ద్వారా వినియోగదారునికి అందించబడిన వివిక్త లేదా నిరంతర సమాచారం. ఎన్‌కోడింగ్ అనేది నిర్దిష్ట కమ్యూనికేషన్ ఛానెల్‌లో ప్రసారం చేయడానికి అనుకూలమైన ఫార్ములాగా సమాచారాన్ని మార్చడం. గణితంలో కోడింగ్‌కు ఉదాహరణ డెస్కార్టెస్ ప్రవేశపెట్టిన కోఆర్డినేట్ పద్ధతి, ఇది రేఖాగణిత వస్తువులను వాటి విశ్లేషణాత్మక వ్యక్తీకరణ ద్వారా సంఖ్యలు, అక్షరాలు మరియు వాటి కలయికలు - సూత్రాల రూపంలో అధ్యయనం చేయడం సాధ్యపడుతుంది. కోడింగ్ భావన అంటే సమాచారాన్ని నిర్దిష్ట కమ్యూనికేషన్ ఛానెల్ ద్వారా ప్రసారం చేయడానికి అనుకూలమైన రూపంలోకి మార్చడం. డీకోడింగ్ అనేది ఎన్‌కోడ్ చేసిన ఫారమ్ నుండి స్వీకరించబడిన సందేశాన్ని వినియోగదారునికి యాక్సెస్ చేయగల ఫారమ్‌లోకి పునరుద్ధరించడం.

అంశం 5.2. ఆల్ఫాబెటికల్ కోడింగ్ సాధారణ సందర్భంలో, కోడింగ్ సమస్యను ఈ క్రింది విధంగా సూచించవచ్చు. A మరియు B అనే రెండు వర్ణమాలలను ఇవ్వనివ్వండి, ఇందులో పరిమిత సంఖ్యలో అక్షరాలు ఉంటాయి: మరియు. వర్ణమాలలోని మూలకాలను అక్షరాలు అంటారు. A వర్ణమాలలోని ఆర్డర్ సెట్‌ను పదం అంటారు, ఇక్కడ n =l()=| |. , సంఖ్య n పదంలోని అక్షరాల సంఖ్యను చూపుతుంది మరియు పదం యొక్క పొడవు అని పిలుస్తారు, ఖాళీ పదం సూచించబడుతుంది: పదం కోసం, అక్షరం a1, పదం యొక్క ప్రారంభం లేదా ఉపసర్గ, అక్షరం a అనేది పదం యొక్క ముగింపు లేదా పోస్ట్‌ఫిక్స్. , మరియు పదాలు కలపవచ్చు. దీన్ని చేయడానికి, రెండవ పదం యొక్క ఉపసర్గ వెంటనే మొదటి పదానికి సంబంధించిన పోస్ట్‌ఫిక్స్‌ని అనుసరించాలి, అయితే కొత్త పదంలో వారు సహజంగా తమ స్థితిని కోల్పోతారు, పదాలలో ఒకటి ఖాళీగా ఉంటే తప్ప. పదాల సమ్మేళనం మరియు సూచించబడుతుంది, n ఒకేలాంటి పదాల సమ్మేళనం సూచించబడుతుంది, అంతేకాకుండా. A వర్ణమాల యొక్క అన్ని ఖాళీ కాని పదాల సమితిని A* ద్వారా సూచిస్తారు: A సెట్‌ని సందేశ వర్ణమాల అని పిలుస్తారు మరియు B సెట్‌ను కోడింగ్ ఆల్ఫాబెట్ అంటారు. వర్ణమాల Bలో కూర్చిన పదాల సమితి B*తో సూచించబడుతుంది.

వర్ణమాల A నుండి వర్ణమాల B వరకు ఉన్న పదాల మ్యాపింగ్‌ను F ద్వారా సూచించండి. ఆ పదాన్ని పదం యొక్క కోడ్ అంటారు. కోడింగ్ అనేది దాని నిల్వ, ప్రసారం మరియు ప్రాసెసింగ్ సమయంలో సమాచారాన్ని ప్రదర్శించే సార్వత్రిక మార్గం, సందేశ మూలకాలు మరియు సంకేతాల మధ్య కరస్పాండెన్స్ వ్యవస్థ రూపంలో ఈ అంశాలను పరిష్కరించవచ్చు. ఈ విధంగా, ఒక సంకేత ప్రాతినిధ్య రూపం (ప్రారంభ వర్ణమాల A) నుండి మరొక (ఆబ్జెక్ట్ ఆల్ఫాబెట్ B)కి, సాధారణంగా ఎటువంటి సమాచారం కోల్పోకుండా సందేశం యొక్క స్పష్టమైన రూపాంతరం (అంటే, ఒక ఫంక్షన్) కోసం కోడ్ ఒక నియమం. అసలు వర్ణమాల A యొక్క F: A* B*→ పదాలను వర్ణమాల Bగా మార్చే ప్రక్రియను సమాచార కోడింగ్ అంటారు. పదాన్ని తిరిగి మార్చే ప్రక్రియను డీకోడింగ్ అంటారు. అందువలన, డీకోడింగ్ అనేది F యొక్క విలోమం, అనగా. F1. ఒక పదంలోకి ఏదైనా ఎన్‌కోడింగ్ కోసం డీకోడింగ్ ఆపరేషన్ తప్పనిసరిగా చేయాలి కాబట్టి, మ్యాపింగ్ తప్పనిసరిగా విలోమంగా ఉండాలి (ఒక బైజెక్షన్). ఒకవేళ |B|= m, అప్పుడు Fని మిమిక్ కోడింగ్ అంటారు, అత్యంత సాధారణ సందర్భం B = (0, 1) బైనరీ కోడింగ్. ఈ సందర్భం క్రింద పరిగణించబడుతుంది. అన్ని కోడ్ పదాలు ఒకే పొడవు కలిగి ఉంటే, ఆ కోడ్‌ని యూనిఫాం లేదా బ్లాక్ అంటారు. అక్షరం (లేదా అక్షరం ద్వారా అక్షరం) కోడింగ్‌ను కోడ్ పట్టిక ద్వారా పేర్కొనవచ్చు. కొంత ప్రత్యామ్నాయం కోడ్ లేదా ఎన్‌కోడింగ్ ఫంక్షన్‌గా ఉపయోగపడుతుంది. అప్పుడు ఎక్కడ, . అటువంటి అక్షరం-అక్షరం కోడింగ్ ప్రాథమిక కోడ్‌ల సమితిగా సూచించబడుతుంది. ఏదైనా సందేశాల కోసం అక్షర ఎన్‌కోడింగ్‌ని ఉపయోగించవచ్చు. అందువల్ల ఆల్ఫాబెటిక్ ఎన్‌కోడింగ్ అనేది చాలా సరళమైనది మరియు ఎల్లప్పుడూ ఖాళీ కాని వర్ణమాలలపై నమోదు చేయవచ్చు. . చాలా అక్షరాల సంకేతాలు

ఉదాహరణ A = (0, 1, 2, 3, 4, 5, 6, 7, 8, 9) B = (0, 1) వర్ణమాలలను ఇవ్వనివ్వండి. అప్పుడు కోడింగ్ పట్టిక ప్రత్యామ్నాయం కావచ్చు: . ఇది BCD ఎన్‌కోడింగ్, ఇది ఒకదానికొకటి మరియు డీకోడ్ చేయగలదు. అయితే, స్కీమా ఒకరి నుండి ఒకరు కాదు. ఉదాహరణకు, ఆరు 111111 సమితి పదం 333 మరియు 77, అలాగే 111111, 137, 3311 లేదా 7111తో పాటు ఏదైనా ప్రస్తారణతో సరిపోలవచ్చు. ఒక అక్షరం యొక్క ప్రాథమిక కోడ్ మరొక అక్షరం యొక్క ప్రాథమిక కోడ్ యొక్క ఉపసర్గ కానట్లయితే, ఆల్ఫాబెటిక్ కోడింగ్ స్కీమ్‌ను ప్రిఫిక్స్ అంటారు. ఎలిమెంటరీ కోడ్‌లతో కూడిన ఏదైనా పదం ఒక ప్రత్యేకమైన మార్గంలో ప్రాథమిక కోడ్‌లుగా కుళ్ళిపోతే, అక్షర కోడింగ్ పథకం వేరు చేయబడుతుంది. వేరు చేయగల స్కీమ్‌తో ఆల్ఫాబెటిక్ ఎన్‌కోడింగ్ డీకోడింగ్‌ను అనుమతిస్తుంది. ఉపసర్గ పథకం వేరు చేయగలదని నిరూపించవచ్చు. ఆల్ఫాబెటిక్ కోడింగ్ స్కీమ్ వేరుగా ఉండాలంటే, ఎలిమెంటరీ కోడ్‌ల పొడవు తప్పనిసరిగా మాక్‌మిలన్ యొక్క అసమానత అని పిలువబడే సంబంధాన్ని సంతృప్తి పరచాలి. మాక్‌మిలన్ యొక్క అసమానత అక్షర కోడింగ్ పథకం అయితే

వేరు చేయవచ్చు, అప్పుడు క్రింది అసమానత కలిగి ఉంటుంది. a అక్షరం యొక్క ప్రాథమిక కోడ్ b అక్షరం యొక్క ప్రాథమిక కోడ్ యొక్క ఉపసర్గ. అంశం 5.3. కనీస రిడెండెన్సీ కోడింగ్ ఆచరణలో, సందేశ కోడ్‌లు వీలైనంత తక్కువగా ఉండటం ముఖ్యం. ఆల్ఫాబెటికల్ కోడింగ్ ఏదైనా సందేశాలకు అనుకూలంగా ఉంటుంది, అయితే A వర్ణమాల యొక్క అన్ని పదాల సెట్ గురించి ఏమీ తెలియకపోతే, ఆప్టిమైజేషన్ సమస్యను ఖచ్చితంగా రూపొందించడం కష్టం. అయితే, ఆచరణలో అదనపు సమాచారం తరచుగా అందుబాటులో ఉంటుంది. ఉదాహరణకు, సహజ భాషలో అందించబడిన సందేశాల కోసం, అటువంటి అదనపు సమాచారం సందేశంలో అక్షరాలు సంభవించే సంభావ్యత పంపిణీ కావచ్చు. అప్పుడు సరైన కోడ్‌ను నిర్మించే సమస్య ఖచ్చితమైన గణిత సూత్రీకరణ మరియు కఠినమైన పరిష్కారాన్ని పొందుతుంది.

కొన్ని వేరు చేయగల ఆల్ఫాబెటిక్ కోడింగ్ స్కీమ్ ఇవ్వబడనివ్వండి. ఆర్డర్ చేసిన సెట్ యొక్క ప్రస్తారణ అయిన ఏదైనా పథకం కూడా వేరు చేయబడుతుంది. ఈ సందర్భంలో, కోడ్‌ల ప్రాథమిక సెట్‌ల పొడవు సమానంగా ఉంటే, పథకంలో వాటి ప్రస్తారణ ఎన్‌కోడ్ చేసిన సందేశం యొక్క పొడవును ప్రభావితం చేయదు. ప్రాథమిక కోడ్‌ల పొడవు భిన్నంగా ఉన్న సందర్భంలో, సందేశ కోడ్ యొక్క పొడవు నేరుగా ఏ ప్రాథమిక కోడ్‌లు ఏ అక్షరాలకు అనుగుణంగా ఉంటాయి మరియు సందేశంలోని అక్షరాల కూర్పుపై ఆధారపడి ఉంటుంది. నిర్దిష్ట సందేశం మరియు నిర్దిష్ట కోడింగ్ స్కీమ్‌ను బట్టి, అటువంటి కోడ్‌ల ప్రస్తారణను ఎంచుకోవడం సాధ్యపడుతుంది, దీనిలో సందేశ కోడ్ యొక్క పొడవు తక్కువగా ఉంటుంది. ఎలిమెంటరీ కోడ్‌లను కేటాయించే అల్గారిథమ్, దీనిలో స్థిరమైన స్కీమ్ కోసం స్థిర సందేశం కోడ్ S యొక్క పొడవు తక్కువగా ఉంటుంది: ۞ సంఘటనల సంఖ్య యొక్క అవరోహణ క్రమంలో అక్షరాలను క్రమబద్ధీకరించండి; ۞ ఎలిమెంటరీ కోడ్‌లను పొడవు యొక్క ఆరోహణ క్రమంలో క్రమబద్ధీకరించండి; ۞ సూచించిన క్రమంలో అక్షరాలకు అనుగుణంగా కోడ్‌లను ఉంచండి. సందేశంలో అక్షరాలు సంభవించే వర్ణమాల మరియు సంభావ్యతలను తెలియజేయండి:

ఇక్కడ pi అనేది ai అక్షరం కనిపించే సంభావ్యత మరియు సందేశంలో కనిపించే సున్నా సంభావ్యత ఉన్న అక్షరాలు మినహాయించబడతాయి మరియు అక్షరాలు వాటి సంభవనీయ సందేశం యొక్క సంభావ్యత యొక్క అవరోహణ క్రమంలో ఆర్డర్ చేయబడతాయి, ఇది ఉదాహరణగా పేర్కొనబడింది మరియు నిర్వచించబడింది. వేరు చేయగల ఆల్ఫాబెటిక్ కోడింగ్ స్కీమ్ కోసం A=(a,b), B=(0,1), సంభావ్యత పంపిణీ కింద, కోడింగ్ ఖర్చు, మరియు సంభావ్యత పంపిణీ కింద, కోడింగ్ ఖర్చు

అంశం 5.4. హఫ్ఫ్‌మన్ ఎన్‌కోడింగ్ ఈ అల్గోరిథం 1952లో డేవిడ్ హఫ్ఫ్‌మన్ ద్వారా కనుగొనబడింది. అంశం 5.5. అంకగణిత కోడింగ్ హఫ్ఫ్‌మన్ అల్గారిథమ్‌లో వలె, ప్రతిదీ మూలకాల పట్టిక మరియు సంబంధిత సంభావ్యతలతో ప్రారంభమవుతుంది. ఇన్‌పుట్ ఆల్ఫాబెట్‌లో కేవలం మూడు అంశాలు మాత్రమే ఉన్నాయని అనుకుందాం: a1, a2 మరియు a3, మరియు అదే సమయంలో P(a1) = 1/2 P(a2) = 1/3 P(a3) = 1/6 మనకు అవసరమని కూడా అనుకుందాం. సీక్వెన్స్ a1, a1, a2, a3 ఎన్‌కోడ్ చేయడానికి. మనం విరామాన్ని విభజిద్దాము, ఇక్కడ p అనేది కొంత స్థిర సంఖ్య, 0<р<(r­1)/2r, а "мощностная" граница где Tr(p)=­p logr(p/(r­ 1))­(1­р)logr(l­ p), существенно улучшена. Имеется предположение, чт о верхняя граница полученная методом случайного выбора кода, является асимптотически точной, т. е. Ir(п,[ рп])~пТ r(2р).Доказательство или опровержение этого предположения ­ одна из центральны х задач теории кодирования. Большинство конструкций помехоустойчивых кодов являются эффективными, когда длин а пкода достаточновелика. В связи с этим особое значение приобретают вопросы, связанны е со сложностью устройств,осуществляющих кодирование и декодирование (кодера и деко дера). Ограничения на допустимый типдекодера или его сложность могут приводить к увел ичению избыточности, необходимой для обеспечениязаданной помехоустойчивости. Напр., минимальная избыточность кода в В n 2, для к­рого существует декодер,состоящий из регист

ra షిఫ్ట్ మరియు ఒక మెజారిటీ మూలకం మరియు ఒక లోపాన్ని సరిదిద్దడం, ఒక క్రమాన్ని కలిగి ఉంది ((2)తో సరిపోల్చండి). గణితశాస్త్రంగా ఎన్‌కోడర్ మరియు డీకోడర్ మోడల్‌లు సాధారణంగా ఫంక్షనల్ ఎలిమెంట్స్ సర్క్యూట్ నుండి పరిగణించబడతాయి మరియు సంక్లిష్టత అనేది సర్క్యూట్‌లోని మూలకాల సంఖ్యగా అర్థం అవుతుంది. ఎర్రర్-కరెక్టింగ్ కోడ్‌ల యొక్క తెలిసిన తరగతుల కోసం, K. మరియు D. కోసం సాధ్యమయ్యే అల్గారిథమ్‌ల గురించి అధ్యయనం చేయబడింది మరియు ఎన్‌కోడర్ మరియు డీకోడర్ యొక్క సంక్లిష్టతపై ఎగువ హద్దులు పొందబడ్డాయి. కోడింగ్ రేటు, కోడింగ్ యొక్క నాయిస్ ఇమ్యూనిటీ మరియు డీకోడర్ యొక్క సంక్లిష్టత మధ్య కూడా కొన్ని సంబంధాలు కనుగొనబడ్డాయి (చూడండి). కోడింగ్ సిద్ధాంతంలో పరిశోధన యొక్క మరొక దిశ అనేక ఫలితాలు (ఉదాహరణకు, షానన్ యొక్క సిద్ధాంతం మరియు బౌండ్ (3)) "నిర్మాణాత్మకమైనవి" కావు, అయితే (Kn) కోడ్‌ల అనంతమైన శ్రేణుల ఉనికిపై సిద్ధాంతాలు. సంబంధించి, (Kn) కోడ్‌ల అటువంటి సీక్వెన్స్‌ల తరగతిలో ఈ ఫలితాలను రుజువు చేయడానికి ప్రయత్నాలు జరుగుతున్నాయి, kp కోసం ట్యూరింగ్ మెషీన్ ఉంది, అది నిడివి గల ఏకపక్ష పదం l నిదానంగా ఉండే సమయానికి చెందినది అని గుర్తిస్తుంది. l (ఉదా, llog l)కి సంబంధించి పెరుగుదల క్రమం. కోడింగ్ థియరీలో అభివృద్ధి చేయబడిన కొన్ని కొత్త నిర్మాణాలు మరియు హద్దులను రూపొందించే పద్ధతులు మొదటి చూపులో కోడింగ్ సిద్ధాంతం యొక్క సాంప్రదాయ సమస్యలకు చాలా దూరంగా ఉన్న విషయాలలో గణనీయమైన పురోగతికి దారితీశాయి. కాంటాక్ట్ సర్క్యూట్‌ల ద్వారా తర్కం యొక్క బీజగణితం యొక్క విధులను గుర్తించే రోగలక్షణంగా సరైన పద్ధతిలో ఒక లోపం యొక్క దిద్దుబాటుతో గరిష్ట కోడ్‌ను ఇక్కడ మనం సూచించాలి; రీ-ప్యాకింగ్ సాంద్రత కోసం ఎగువ సరిహద్దు యొక్క ప్రాథమిక మెరుగుదల సమాన బంతుల ద్వారా డైమెన్షనల్ యూక్లిడియన్ స్పేస్; అసమానత యొక్క ఉపయోగంపై (1) తర్కం యొక్క బీజగణితం యొక్క ఒక తరగతి ఫంక్షన్ల సూత్రాల ద్వారా అమలు యొక్క సంక్లిష్టతను అంచనా వేయడంలో. కోడింగ్ సిద్ధాంతం యొక్క ఆలోచనలు మరియు ఫలితాలు స్వీయ-సరిచేసే సర్క్యూట్లు మరియు నమ్మదగని అంశాల నుండి నమ్మదగిన సర్క్యూట్ల సంశ్లేషణ సమస్యలలో వారి తదుపరి అభివృద్ధిని కనుగొంటాయి. లిట్.: షానన్ కె., ఇన్ఫర్మేషన్ థియరీ అండ్ సైబర్నెటిక్స్, ట్రాన్స్. ఇంగ్లీష్ నుండి, M., 1963; బెర్లెక్యాంప్ E., బీజగణిత కోడింగ్ సిద్ధాంతం, ట్రాన్స్. ఇంగ్లీష్ నుండి, M., 1971; పీటర్సన్, W., Weldon, E., ఎర్రర్-కరెక్టింగ్ కోడ్‌లు, ట్రాన్స్. ఇంగ్లీష్ నుండి, 2వ ఎడిషన్., M., 1976; సైబర్నెటిక్స్ యొక్క వివిక్త గణితం మరియు గణిత ప్రశ్నలు, వాల్యూమ్. 1, M., 1974, విభాగం 5; బస్సాలిగో L. A., Zyablov V. V., Pinsker M. S., "సమాచార ప్రసార సమస్యలు", 1977, సంపుటి. 13, నం. 3, p. 517; [ఇన్] V. M. సిడెల్నికోవ్, "మాట్. సాట్.", 1974, v. 95, c. 1, p. 148 58. V. I. లెవెన్‌స్టెయిన్.

గణిత ఎన్సైక్లోపీడియా. - M.: సోవియట్ ఎన్సైక్లోపీడియా. I. M. వినోగ్రాడోవ్. 1977-1985.  ఆల్ఫాబెటిక్ కోడింగ్  COEUCLIDAN స్పేస్ ఇతర నిఘంటువులలో కూడా చూడండి:  డీకోడింగ్ - కోడింగ్ మరియు డీకోడింగ్ చూడండి... ఎన్సైక్లోపీడియా ఆఫ్ మ్యాథమెటిక్స్  ఆడియో కోడింగ్ - ఈ కథనాన్ని వికీఫై చేయాలి. దయచేసి, కథనాలను ఫార్మాటింగ్ చేయడానికి నిబంధనల ప్రకారం దీన్ని ఫార్మాట్ చేయండి. పిసిని ఉపయోగించి సౌండ్ కోడింగ్ యొక్క ఆధారం గాలి కంపనాలను ఎలక్ట్రికల్ వైబ్రేషన్లుగా మార్చే ప్రక్రియ ... వికీపీడియా కోడ్ చిత్రాలు), నిర్వచనం ప్రకారం ప్రదర్శించబడుతుంది. నియమాలు, k ryh naz యొక్క సంపూర్ణత. సాంకేతికలిపి K., ... ... ఫిలాసఫికల్ ఎన్సైక్లోపీడియా  సమాచార కోడింగ్ - సందేశ మూలకాలు మరియు సంకేతాల మధ్య అనురూప్యాన్ని ఏర్పరుస్తుంది, దీని సహాయంతో ఈ అంశాలను పరిష్కరించవచ్చు. B అనేది సందేశ మూలకాల సమితిగా ఉండనివ్వండి, A చిహ్నాలతో కూడిన వర్ణమాలగా ఉండనివ్వండి, చిహ్నాల పరిమిత క్రమాన్ని పిలవనివ్వండి. ఒక పదం లో ... ... ఫిజికల్ ఎన్‌సైక్లోపీడియా  ఆప్టిమల్ కోడింగ్ - (ఇంజనీరింగ్ సైకాలజీలో) (eng. ఆప్టిమల్ కోడింగ్) మానవ ఆపరేటర్ ద్వారా నియంత్రించబడే వస్తువు గురించి సమాచారాన్ని స్వీకరించడం మరియు ప్రాసెస్ చేయడంలో గరిష్ట వేగం మరియు విశ్వసనీయతను నిర్ధారించే కోడ్‌ల సృష్టి (సమాచార స్వీకరణ, డీకోడింగ్ చూడండి). K. o. ... ... పెద్ద సైకలాజికల్ ఎన్సైక్లోపీడియా  డీకోడింగ్ (ఇంజినీరింగ్ సైకాలజీలో) - (ఇంగ్లీష్ డీకోడింగ్) మానవ ఆపరేటర్ ద్వారా సమాచారాన్ని స్వీకరించే ప్రక్రియ యొక్క చివరి ఆపరేషన్, ఇది స్థితిని వివరించే పారామితులను రీకోడింగ్ చేయడంలో ఉంటుంది. నియంత్రణ వస్తువు యొక్క, మరియు వాటిని నియంత్రిత వస్తువు యొక్క చిత్రంగా అనువదించడం ( కోడింగ్ చూడండి ... ... గ్రేట్ సైకలాజికల్ ఎన్సైక్లోపీడియా

 డీకోడింగ్ - ప్రసారం చేయబడిన మరియు స్వీకరించబడిన సంకేతాల ద్వారా ఎన్కోడ్ చేయబడిన సందేశాన్ని పునరుద్ధరించడం (కోడింగ్ చూడండి) ... ఎకనామిక్స్ మరియు మ్యాథమెటిక్స్ నిఘంటువు  కోడింగ్ - కోడింగ్. ప్రసంగం ఉత్పత్తి యొక్క దశలలో ఒకటి, "డీకోడింగ్" అనేది స్వీకరణ మరియు వివరణ, ప్రసంగ సందేశాన్ని అర్థం చేసుకునే ప్రక్రియ. సైకోలింగ్విస్టిక్స్ చూడండి... మెథడాలాజికల్ టర్మ్స్ మరియు కాన్సెప్ట్‌ల కొత్త నిఘంటువు (భాషల బోధన యొక్క సిద్ధాంతం మరియు అభ్యాసం)  కోడింగ్ - (ఇంగ్లీష్ కోడింగ్). 1. ఒక శక్తి రూపం నుండి మరొకదానికి సిగ్నల్ యొక్క రూపాంతరం. 2. సిగ్నల్స్ లేదా సంకేతాల యొక్క ఒక వ్యవస్థను ఇతరులలోకి మార్చడం, దీనిని తరచుగా "ట్రాన్స్‌కోడింగ్", "కోడ్ మార్పు" (ప్రసంగం కోసం, "అనువాదం") అని కూడా పిలుస్తారు. 3. K. (జ్ఞాపకశక్తి) ... ... పెద్ద మానసిక ఎన్సైక్లోపీడియా  డీకోడింగ్ - ఈ వ్యాసం సమాచార సిద్ధాంతంలో కోడ్ గురించి, ఈ పదం యొక్క ఇతర అర్థాల కోసం, కోడ్ (అయోమయ నివృత్తి) చూడండి. ప్రతి నిర్దిష్ట సందేశాన్ని ఖచ్చితంగా నిర్వచించబడిన చిహ్నాలు (అక్షరాలు) (లేదా సంకేతాలు) కలయికతో సరిపోల్చడానికి కోడ్ ఒక నియమం (అల్గోరిథం). కోడ్ అని కూడా అంటారు... ... ఆప్టిమల్ ఎన్‌కోడింగ్ ఒకే సందేశాన్ని వివిధ మార్గాల్లో ఎన్‌కోడ్ చేయవచ్చు. ఉత్తమంగా ఎన్‌కోడ్ చేయబడిన కోడ్ అంటే సందేశ ప్రసారంలో కనీస సమయాన్ని వెచ్చిస్తారు. ప్రతి ఎలిమెంటరీ క్యారెక్టర్ (0 లేదా 1) ప్రసారం ఒకే సమయం తీసుకుంటే, సరైన కోడ్ కనీసం సాధ్యమయ్యే పొడవును కలిగి ఉంటుంది. ఉదాహరణ 1. ఏకరీతి బైనరీ కోడ్‌తో సంభావ్యతలను పరిగణనలోకి తీసుకోకుండా ఎనిమిది అక్షరాల వర్ణమాలను ఎన్‌కోడ్ చేయడానికి సంభావ్యత పంపిణీతో ఎనిమిది రాష్ట్రాలతో కూడిన యాదృచ్ఛిక వేరియబుల్ X(x1,x2,x3,x4,x5,x6,x7,x8) ఉండనివ్వండి, మాకు మూడు అక్షరాలు కావాలి: ఈ 000, 001, 010, 011, 100, 101, 110, 111 ఈ కోడ్ మంచిదా కాదా అని సమాధానం ఇవ్వడానికి, మీరు దానిని సరైన విలువతో పోల్చాలి, అంటే ఎంట్రోపీని నిర్ణయించండి

L=1H/H0=12.75/3=0.084 సూత్రం ద్వారా రిడెండెన్సీ Lని నిర్ణయించిన తర్వాత, కోడ్ పొడవును 8.4% తగ్గించడం సాధ్యమవుతుందని మేము చూస్తాము. ప్రశ్న తలెత్తుతుంది: ప్రతి అక్షరానికి సగటున తక్కువ ప్రాథమిక అక్షరాలు ఉండే కోడ్‌ను కంపోజ్ చేయడం సాధ్యమేనా. ఇటువంటి సంకేతాలు ఉన్నాయి. ఇవి ShannonFano మరియు Huffman కోడ్‌లు. సరైన కోడ్‌లను రూపొందించే సూత్రం: 1. ప్రతి ప్రాథమిక అక్షరం తప్పనిసరిగా గరిష్ట సమాచారాన్ని కలిగి ఉండాలి, దీని కోసం ఎన్‌కోడ్ చేసిన టెక్స్ట్‌లోని ప్రాథమిక అక్షరాలు (0 మరియు 1) సగటున సమానంగా తరచుగా సంభవించడం అవసరం. ఈ సందర్భంలో ఎంట్రోపీ గరిష్టంగా ఉంటుంది. 2. అధిక సంభావ్యత కలిగిన ప్రాథమిక వర్ణమాల యొక్క అక్షరాలకు ద్వితీయ వర్ణమాల యొక్క చిన్న కోడ్ పదాలను కేటాయించడం అవసరం.