Vllm unfortunately doesn’t support switching the model without a restart.
- 0 Posts
- 5 Comments
Joined 3 months ago
Cake day: January 28th, 2025
You are not logged in. If you use a Fediverse account that is able to follow users, you can follow this user.
CaptnBook@feddit.orgto Autoblöd@feddit.org•Temposünder demoliert „Blitzer“ aus Wut mitten auf der Nürnberger Straße in SchwabachDeutsch6·3 months agoOffenbar ein nicht viel beachtetes Blatt dieser Postillon. Sonst wüssten das schon mehr Leute. Ich fänds ja angebracht, sowas entweder in der Schule oder wenigstens in der Fahrschule zu unterrichten.
It’s not, by far. But vllm or SGLang don’t support switching the model… such a shame.
CaptnBook@feddit.orgto Autoblöd@feddit.org•Temposünder demoliert „Blitzer“ aus Wut mitten auf der Nürnberger Straße in SchwabachDeutsch161·3 months agoEs gibt einen wirklich richtig miesen Trick wie man diese Geldgeneratoren austricksen kann. Eigtl fast schon zu schade das online zu teilen, am Ende macht’s jeder und die lassen sich was einfallen um diese Lücke im System zu schließen. Und wenn jemand fragt, dann habt ihr das nicht von mir…
Aber wenn man langsamer fährt als die maximal erlaubte Höchstgeschwindigkeit, dann sehen einen diese Geldraubtiere nicht und man kommt unbeschadet an ihnen vorbei.
Make people accountable for spreading lies and missinformation. Its that simple. The more reach they have, the higher the punishment for spreading miss information.
And in order to make it easy for everyone, if you can proof that you did a research before publishing said missinformation it can lower the punishment. Again, more influence, more research necessary.
If we could start using block chains for information spreading, we could follow the sources of said information and everything would be tranparent.