1/3 Ponieważ marzy mi się zniszczenie monopulu na AI, sam próbuję działać z różnymi modelami. Nie testuję na jakichś mega-maszynach bo ich nie mam. Chodzi mi również o prywatność, nie chcę by moje dokumenty fruwały po Sieci. Ostatnio używałem Mistrala 8x7B na Intelu7 gen12 z 16GB RAM, czyli na
Wszystkie postyPK MB
Komentarze
1Dodajesz komentarz jako:
Michał Bujakowski2 lata temu
Jakiś czase temu szukałem instalowalnego AI na potrzeby mojego projektu. Przeglądnę ten Mistrala . Wspomniał Pan o przetwarzaniu równoległym - opcjonalne jest korzystanie z wątków/rdzeni na poziomie administratora, czy chodzi o opcję p.t. "uruchom równolegle", która zapewne może korzystać z wielowątkowoci a nie musi (np ktoś może korzystać z jednordzeniowca :) ) Czy można korzystać z tego offline ?
Edytowano