Falcon

Opis Falcon

Falcon – to rodzina otwartych modeli językowych Technology Innovation Institute (ZEA), dostępnych w wariantach 7B, 40B i 180B parametrów. Flagowy Falcon 180B to jeden z największych otwartych LLM, wytrenowany na ~3,5 bln tokenów korpusu RefinedWeb i innych wysokiej jakości danych, co pozwala mu konkurować z zamkniętymi modelami klasy GPT-3.5 i PaLM pod względem jakości tekstu, kodu i rozumowania. Typowa długość kontekstu to około 2K tokenów, co wystarcza do złożonych dialogów i pracy z dokumentami średniej objętości. Technicznie Falcon to decoder-only Transformer z zoptymalizowaną architekturą uwagi i dużą bazą przedtreningową, dostępny na otwartej licencji do komercyjnego wykorzystania. Na bazie Falcon można tworzyć korporacyjne chatboty, asystentów wsparcia, narzędzia dla programistów, systemy generowania i analizy tekstów oraz rozwiązania RAG nad wewnętrznymi bazami wiedzy. Zespół FreeBlock dobierze odpowiednią wersję Falcon, dostroi ją na Twoich danych i zintegruje z produktami oraz infrastrukturą. Jeśli potrzebujesz mocnych otwartych LLM bez vendor lock-in, zamów tworzenie projektów AI na bazie Falcon w firmie FreeBlock.

Wszystkie technologie