Velké jazykové modely (LLM) jsou velice náročné na hardware, a tak ty nejvýkonnější běží ve velkých datových centrech. Existují ovšem optimalizované menší modely, které sice nejsou tak schopné, ale určitou práci také zastanou. Jsou zdarma a můžete je nainstalovat a spustit lokálně.
Je to ideální, pokud máte nějaká citlivá nebo osobní témata, o kterých byste rádi diskutovali s AI, ale nechcete, aby vaše myšlenky četla velká technologická společnost.