Jak lokálně spustit velký jazykový model pro AI - iDNES.cz

Bojíte se svěřit svá data umělé inteligenci? Zkuste to lokálně. Víme jak

Premium

ilustrační snímek | foto: David Votruba / AIiDNES.cz

Kolem generativní umělé inteligence panuje řada obav. Jednou z nich může být strach o vlastní data, která při komunikaci se systémem sdílíte. Další problém může nastat, když z nějakého důvodu nebudete připojeni na internet. Oba tyto problémy řeší instalace jazykového modelu, který AI pohání, na vlastní počítač.

Celý článek je jen pro členy

Chcete číst prémiové texty bez omezení?

Předplatit

Velké jazykové modely (LLM) jsou velice náročné na hardware, a tak ty nejvýkonnější běží ve velkých datových centrech. Existují ovšem optimalizované menší modely, které sice nejsou tak schopné, ale určitou práci také zastanou. Jsou zdarma a můžete je nainstalovat a spustit lokálně.

Je to ideální, pokud máte nějaká citlivá nebo osobní témata, o kterých byste rádi diskutovali s AI, ale nechcete, aby vaše myšlenky četla velká technologická společnost.

Dočtěte tento exkluzivní článek s předplatným iDNES Premium

Měsíční

99
Předplatit
Flexibilní, bez závazků
Automatické obnovování

Roční

989
Předplatit
Nejlepší poměr cena/výkon
Ušetříte 17%

Dvouleté

1 889
Předplatit
Nejvýhodnější
Ušetříte 20%

Připojte se ještě dnes a získejte:

  • Neomezený přístup k obsahu iDNES.cz, Lidovky.cz a Expres.cz
  • Více než 50 000 prémiových článků od renomovaných autorů
  • Přístup k našim novinám a časopisům online a zdarma ve čtečce
Více o iDNES Premium
Máte už předplatné? Přihlásit se

Nejčtenější

Vlasovci zachránili Prahu, Američané je zradili a Stalin nechal popravit

V německých uniformách, ale s označením ROA, šli lidé generála Vlasova na pomoc Praze. Zatímco jinde Němci kapitulovali, v Praze bojovali urputně dál. Karel Pacner líčí události konce druhé světové...

Prahu srovnejte se zemí! Rudá armáda u Drážďan, Němci v centru Prahy

Konec války přinesl řadu paradoxních situací. Zatímco německá armáda oficiálně kapitulovala, řada jednotek se s tím nehodlala smířit, nebo se k nim tato zpráva nedostala. A například Praha měla být...

Lidé slavili konec války a bombardéry s rudými hvězdami začaly rozsévat smrt

Radost z konce války se proměnila v peklo. Prvního mírového dne 9. května 1945 udeřily sovětské bombardéry na několik českých a moravských měst a obcí. Bomby ovšem padaly i dne předchozího, a to také...

Ruce pryč. Osm věcí, které byste nikdy na pracovním počítači neměli dělat

Premium

Trávíte-li na pracovním počítači osm i více hodin denně, je těžké odolat pokušení a nevyužít ho i k osobním potřebám. Brouzdat na internetu, vyřizovat soukromé e-maily, nakupovat, procházet sociální...

A zazněl rozkaz: Začněte stavět barikády!

Zamezit pohybu tankům, to byl hlavní cíl, kvůli kterému se v Praze v květnu 1945 začaly stavět v ulicích barikády. Během pražského povstání jich vzniklo více než půl druhého tisíce. Karel Pacner...

Ruce pryč. Osm věcí, které byste nikdy na pracovním počítači neměli dělat

Premium

Trávíte-li na pracovním počítači osm i více hodin denně, je těžké odolat pokušení a nevyužít ho i k osobním potřebám. Brouzdat na internetu, vyřizovat soukromé e-maily, nakupovat, procházet sociální...

15. května 2025

Velký obraz, popcorn, grilování. Skvělé mini kino postavíte za pár minut

Podívat se s přáteli pod širým nebem na film, chroupat u toho čerstvě vypukaný popcorn, popíjet právě překapanou kávu, ugrilovat klobásky… Výběr kafe a klobásek necháme na vás, ale zjednodušíme tu...

15. května 2025

Jedinečný prachoměr zdokonalil slavný český vědec František Běhounek

Osobnost vědce Františka Běhounka u širší veřejnosti spojena s tragédií vzducholodi Italia 25. května 1928 a jeho knihou Trosečníci polárního moře. V našem seriálu Poklady z depozitáře se však...

14. května 2025

KVÍZ: K čemu byla Enigma? Vyzkoušejte si, jak znáte vynálezy 2. světové války

Znáte technologické průlomy, které změnily podobu druhé světové války? Otestujte své znalosti o vynálezech, které ovlivnily nejen výsledek války, ale i svět po ní. Soutěžit o vouchery můžete do 21....

vydáno 14. května 2025

Televizní vysílání přes anténu poběží dál. Neskončí ani v roce 2030

Před necelými pěti lety jsme přešli na druhou generaci pozemního televizního digitálního vysílání. Tento digitální formát nám ještě nějakou dobu vydrží, stejně jako samotné šíření televizního signálu...

13. května 2025  18:02

Google mění ikonické G. Oficiálně ho možná uvede příští týden

Společnost Google po mnoha letech mění své hlavní logo, které její produkty provází zhruba dekádu. Změnu možná nepoznáte, ale má ukázat, jak se firma mění v souvislosti s umělou inteligencí.

13. května 2025  12:49

Lidé místo Googlu používají AI. A firmy jim tam chtějí nabízet své výrobky

S nástupem generativní umělé inteligence ji stále víc lidí využívá namísto Googlu či jiného vyhledávače. A týká se to i různých rad pro nákup produktů nebo služeb. Řada firem proto způsoby, jak...

13. května 2025

Disneyland přinesl jednu technickou novinku, která vás v něm možná překvapí

Disneyland Monorail se stal první pravidelně provozovanou jednokolejnicovou dráhou systému ALWEG. Provoz byl zahájen v roce 1959 na okružní trase spojující daný areál zábavního parku se stejnojmenným...

13. května 2025

Zachrání při blackoutu, zpříjemní kempování. Otestovali jsme funkci V2L

Některé elektromobily se mohou proměnit v obří powerbanky na kolech, kterými lze napájet běžné elektrické spotřebiče. Ve spolupráci se specialistou z ČVUT jsme změřili, jak kvalitní výstup elektřiny...

12. května 2025

Pentagon plánuje ekranoplán pro Pacifik. Jestli vznikne, se teprve uvidí

Projekt netradičního dopravního prostředku má na starosti proslulá agentura DARPA. Oproti starším strojům vesměs sovětské provenience by mělo jít o hybrid zvládající i let ve větších výškách jako...

12. května 2025

Českem se před 100 lety prohnala smršť. Nouzově přistávalo letadlo

Částí Vysočiny a jihozápadu Moravy se v pondělí 11. května 1925 prohnala extrémní bouře. Způsobila vedle mnoha jiných škod také jednu leteckou havárii.

11. května 2025

Zapomenutá bestie a Liberec, který se připravoval na boj v ulicích

Konec druhé světové války znamenal pro oblast Sudet a zejména pro Liberecko období zásadních dějinných zvratů. Rudá armáda se hrnula ze severovýchodu a i do metropole říšské župy Sudety Reichenbergu...

11. května 2025

Stránky budou vždy ve světlých barvách.

Nastavte si velikost písma, podle vašich preferencí.