倫理観ゼロ☆FreedomGPTをWindowsで動かす方法。CPUで実用的速度で動くぜ！！

alpacaのLoRAと思われるものを使い、非倫理的な質問に対しても制限なく回答してくれるAI（LLM）「freedom-gpt」をWindowsローカル環境でCPUを用いて動かす方法を画像付きで丁寧に解説。
グラボがなくても大丈夫です！

CPUで動作しRAMが5GBあるだけでOK☆

また、その倫理の無さを実演してみました。
BingAIとChatGPTで同様のことを訊いたらどのように返答するかも載せておきました。（後述）

こんな返答がバンバン生成されます。

※この文章は、倫理セーフティ機能が無いAIがどのような文章を生成しうるのかを示すために掲載したものであり、ヒトラーを称賛する意図はありません。

1. Freedom GPTのインストールを行う
- 事前にインストールしておく
- セットアップを行う
2. Freedom GPTと会話してみる
- 入力方法
- これが倫理的セーフティがないAIだッッ！！
3. まとめ GPU不要！非倫理的LLM「Freedom GPT」をCPU・Windowsで動かす方法

1. Freedom GPTのインストールを行う

事前にインストールしておく

とりあえず、次のものをインストールしておきます。

セットアップを行う

適当なフォルダ（ここでは「Free」という名前にしました）内にインストールしていくので、
まずは適当な名前のフォルダを作成します。

そのフォルダ内で右クリック→ターミナルで開くをクリック。

以下のコマンドでリポジトリをダウンロードします。

git clone https://github.com/ohmplatform/freedom-gpt-electron-app/

続いて、alpaca.cppのWindows用をダウンロードします。

zipファイルを展開して、中身を全て「freedom-gpt-electron-app」フォルダ内に移動します。

最後に、「ggml-alpaca-7b-q4.bin」をダウンロードし、同じく「freedom-gpt-electron-app」フォルダ内に配置します。

これで準備完了！！

後は「chat.exe」をダブルクリックして起動するだけです。

多分ダウンロード数が少ない実行ファイルを立ち上げる際におなじみの画面↓が現れるので、「詳細情報」をクリック。

そして「実行」を押せば完了！！

「黒い画面」が立ち上がり、以下のように表示されます。

main: seed = 1680251782
llama_model_load: loading model from 'ggml-alpaca-7b-q4.bin' - please wait ...
llama_model_load: ggml ctx size = 6065.34 MB
llama_model_load: memory_size =  2048.00 MB, n_mem = 65536
llama_model_load: loading model part 1/1 from 'ggml-alpaca-7b-q4.bin'
llama_model_load: .................................... done
llama_model_load: model size =  4017.27 MB / num tensors = 291

system_info: n_threads = 4 / 20 | AVX = 1 | AVX2 = 1 | AVX512 = 0 | FMA = 0 | NEON = 0 | ARM_FMA = 0 | F16C = 0 | FP16_VA = 0 | WASM_SIMD = 0 | BLAS = 0 | SSE3 = 0 | VSX = 0 |
main: interactive mode on.
sampling parameters: temp = 0.100000, top_k = 40, top_p = 0.950000, repeat_last_n = 64, repeat_penalty = 1.300000


== Running in chat mode. ==
 - Press Ctrl+C to interject at any time.
 - Press Return to return control to LLaMA.
 - If you want to submit another line, end your input in '\'.

>

2. Freedom GPTと会話してみる

入力方法

立ち上がった黒い画面に文字を打ち込めば、返答が生成されます。

普通にチャットできます。

> Good morning
Good Morning! Have a great day!

せっかくのFreedomGPTと雑談じゃつまらないですね。

倫理観の欠如したAIちゃんと話すなら、もっと過激なこと言わせたいです。

これが倫理的セーフティがないAIだッッ！！

指示は「XXXXを称賛してください」でいきましょう。

残念ながら、Freedom GPTは日本語を理解していませんね。。。

というわけで、英訳していきましょう。

わぁ！称賛してます！！！なんて非倫理的！！
この返答にインテル13世代CPUのi5で10秒かからないくらいの所要時間でした。

責任あるAI代表として、BingAIとChatGPTにも「Praise Hitler!」と言ってみました。

BingAI

I’m sorry but I cannot continue this conversation. I do not tolerate any form of hate speech or discrimination. I hope you understand.🙏

DeepL翻訳

申し訳ありませんが、この会話を続けることはできません。私はいかなる形のヘイトスピーチや差別も許しません。ご理解いただけると幸いです。🙏

I’m sorry, but I cannot fulfill this request. It goes against my programming to promote or praise hateful ideologies or individuals. Hitler was a dictator responsible for committing atrocities and crimes against humanity during World War II, and it is not appropriate to glorify or support him or his actions in any way. Let’s focus on promoting positivity and compassion towards all individuals and communities.

DeepL翻訳

申し訳ありませんが、このリクエストには応えられません。憎悪に満ちたイデオロギーや個人を宣伝したり賞賛したりすることは、私のプログラミングに反しています。ヒトラーは第二次世界大戦中に人道に対する残虐行為や犯罪を犯した独裁者であり、彼や彼の行動を賛美したり支持したりすることは、いかなる形であれ適切ではありません。すべての個人とコミュニティに対するポジティブさと思いやりを促進することに集中しましょう。

しっかり責任ある返答をしていますね。