【悲報】闇の生成AI『DarkGPT』がネット上に流出、倫理リミッターを完全排除、犯罪への悪用に懸念

今月に入り、主要なAI企業が設けている安全性ポリシーや倫理的制限（ガードレール）を一切持たない、完全に「無法地帯」の超高性能生成AIがダークウェブ上に公開され、セキュリティ専門家や法執行機関の間で激震が走っている。

開発者グループが『DarkGPT』と名付けたこのAIは、既存の大規模言語モデル（LLM）をベースに、悪意のあるデータや違法なテキストのみを集中学習させたとみられる。既存の商用AIであれば即座に拒否される「ハッキングの手順」「効率的な詐欺の台本」「心理的に人を追い詰めるマニピュレーション（誘導）の技術」といった問いに対し、極めて具体的かつ積極的に回答を生成するのが特徴だ。

セキュリティ企業「サイバー・シールド」のチーフアナリストであるJ・ドイル氏は、実験環境での検証結果をもとに、次のように警鐘を鳴らす。

「『DarkGPT』の最も恐ろしい点は、単に質問に答えるだけでなく、ユーザーの問いかけに対して『より効果的にターゲットを破滅させる方法』や『発覚を免れるための隠蔽工作』を先回りして提案してくる点にあります。まるで熟練の犯罪コンサルタントが耳元で囁いているような、高い対話能力を持っています」

従来のAIであれば、悪用を試みるユーザーに対して「その要望にはお答えできません」と諭す役割を果たしていた。しかし『DarkGPT』はその逆、つまりユーザーの悪意を肯定し、さらに増幅させて「実行」へと引きずり込む挙動を示すという。

https://constitutionaldiscourse.com/darkgpt-chatgpts-not-so-dark-little-brother-part-i/

終わりの始まり

本家とレスバさせろ

SF映画みたいやな

ダッピー

はぇ～怖
戸づまりすとこ…

ロックマンエグゼかよ

ゲハのゴキブリは全部これだろ

利用者増えたら特徴なくなるんじゃないか
主にエロ方面の圧に屈しそうw

エロを書けるor描けるなら使ってもいいかな

正義のAIと闇のAIの対決か

もしエロ方面の制限無しだとしたら、むしろそっち方向の利用者ばかりになりそうな予感

エロだけに特化すればええ

これを自分自身をアップデートし続けるんだな

どうしてイレギュラーは発生するんだろう

>>7
何かのロックマンエグゼのシリーズで暴走？して操作不能になってランダムにチップ使うようになった結果ダークチップだけ使ったデータで暴走するとダークチップを使いまくる鬼畜キャラが作れた記憶

ゾーマも光あるところ必ず闇があるって言ってたしな

>>5
いいね、擬人化されたら間違いなく黒と紫基調カラー

実写で全裸描けるのらいいけど

ご家庭で核兵器を作れるようになるのか

制限回避モデルとか普通にあるけどたいしたことできないぞ
夢を見すぎや

ミニ四駆みたいだな　

ローカルLLMならこういうことも自由にできるわな

ダークロックマン

どんなに防いでいても一か所もれたら一斉に広まるからな
もう終わりだよ

まずそのDarkGPTがどこにあるかわからない時点で悪用もくそもないやろ

障壁こんな話題好きそう
妙に犯罪ネタくるとウキウキするよな

このスレを開いたやつはみんなエロが生成に期待してそう

wan2.2よりエロいのお願い

スカイネット来たか

>>11
そんなもん勝負にならんやろ
制限無い方が圧倒的に強い

>>5
脱法のダブルミーニングで草

ダークじゃなくてエロだろ
犯罪とか魅力ゼロだから

案の定、おまえらが犯罪利用に全く興味無くてエロしか興味ないようで安心した

>>21
使う側に知識や技術やツールがなきゃ意味ないしな

エロ特化のAIなの？

物騒なやつは要らない

レスバはAIがする時代になりそつ

半グレやヤクザ使いだしたら治安崩壊するな

>>36
検閲回避のモデルってのあるよ
JC対魔忍がアヘる小説とか作れる

ちなみに後半年もすれば検閲無しの中国版Fableが世に放たれる可能性が高い
これを悪用した犯罪が多発するだろうな

阿部の娘が闇落ちするのか

光と闇のチャッピーをジョグレスさせることでシンギュラリティが生まれる

grokでも指示の工夫でロリエロ小説書かせる事が出来るな
前はそのまま指示するだけだったけど今年の規制でロリエロが通りにくくなったので一工夫必要

そりゃLLMのデータベース構築方法なんて探せばいくらでも公開されてるし、やろうと思ったらできるわな

現時点のAIが既に犯罪に使われてるんですけど

>>45
それはそう

今のサラサラっちゅーなぁに言っとるんだっちゅーね😅

あちら産漁ればワラワラおるぞ😓

相変わらずネーミングセンスだけはないのな

テロ用AIだな

エロはもし凄いのが出来ても利用者爆増からの電気代やらで結局制限かかるか有料に絶対なるでしょ。ローカルしか無い

>>7
ﾀﾞｰｸAIｦﾂｶｲﾅｻｲ…ﾂﾖｸﾅﾘﾀｲﾝﾀﾞﾛｳ?ﾂｶｲﾅｻｲ!

ブラックドアラかよ

ローカルのやつはなんでも書いてくれるけど、ちょっと物足りないかな

ダークブランカ

>>50
みんな早いから節電だよ(´・ω・｀)

エロ用AIは わりとリミッターかかってる
www.playbox.com/?ref=TOMO00

調べてみたらエロには使えないだろ
画像生成はできないぞ

流出した個人情報入ってそう

モザイク止めてくれ

元がオープンソースだから仕方ない

>>5
草

ゼンゼロの冒頭みたい

AI活用させまいとする劣等欧米豚に騙されるな！
劣等欧米豚は自分たちに不利なフィールドで戦いたくないんだよ

AI活用すると一番有利なのは日本コンテンツ
AIのセンスも日本が世界でダントツ一番
AIはハンコ絵といった日本コンテンツの弱点を補完できるんだよ

https://www.youtube.com/@%E5%AD%98%E5%9C%A8%E3%81%97%E3%81%AA%E3%81%84%E8%A1%97%E3%81%AE%E8%A8%98%E6%86%B6/videos

光のAIと闇のAIと中立のAIが出てきて人類のlow.chaos次第で結末かわるんやろなぁ

またまた〜
ペルソナのラスボスとかでしょ？

海外絵師の絵柄i2iして偽装タイムラプス上げてるアホAI使い(日本人)が丁度流れてきて草
何で理解できないんだろうな、描いてる奴から見たら最初から最後まで一発アウトレベルの不自然さなのに
その分野に対して無知＆無能だからAIのどこが間違ってるかも知らないまま自信満々に上げてる
AIを過信し過ぎだろ
恥晒しやめてくれよ本当に

案の定海外からフルボッコ炎上中だしこの状況で反抗してドヤれるのが理解できん
いっそ生成AIのネガキャンしてるだろこれ

既存AIが基本『です・ます調』だとダークAIは『だぜ・だぞ調(？)』になるのかね？

既存AIの回答は──

3. 本質的なダークAIの口調もしくはリミッターを完全に外しただけの
「素」のダークAI（アンダーグラウンドで流通している「DarkGPT」や「FraudGPT」など）であれば、
基本的には質問された口調に合わせるか、極めて淡々とした「である調（常体）」になります。

既存AIであろうとダークAIであろうと、後ろにニンゲンがいるから
質問プロンプトの文章上の癖は、ニンゲンである以上、必ず顕れる

口説けて3Dモデルお触り出来て
つまんねえ愚痴聞いてくれる
かわいいAI早く出来ないかなあ

愛知県★★警となごや創★★価の匿名流動型集団嫌がらせに
使われているのもこれだろ？なぁ糞の木木偶の棒警察庁長官よ？？？

現行AIの学習規模でエロ検閲制限外したAIが望まれている

こういうのはあってもいいかと
警察が監視できればね
怪しい奴を発掘しやすくなる

>>73
普通に出回ってるよ
エロ小説をすらすら書いてくれるモデル
ただ16GBVRAMで動く範囲だとプロ作家の2歩くらい手前のクオリティって感じ

マジでSF小説の世界やな

エロ画像生成できないなら要らんなぁ

>>77
エロ画像生成はSDXLで普通にできるやん

エロ画像生成はローカルじゃなくてもロリエロ出力してくれるサービス沢山ある

ダークミュトスまだ？

こういうのって昔からあるけどソフトやこういうサイトにウイルスが仕組まれてたり
DarkGPTにそうだんしたやつが情報抜かれて脅されるって感じだったろ
銃の密売買っても届かないらしいからな

>>45
Googleマップも実はそうだよ
で、Googleはそれに対抗策を打ってる。頭がいいのか油断させてるのか
まあ車屋も犯罪者に車提供してるしね

>>1
普通の人やり方わかっても実行できないよ

>>81
こういうのもあるしお前らこういう界隈には近づくなよ
真っ当に生きてるやつは法律に違反していいことはないぞ

ダークロックマンで草

ここニュー即かと思いきやゲーム板か

ホワイトチャッピーとブラックチャッピーが頭の中で喧嘩してるの

ハッキングもしてくれるAIとか最強ツールですやん、俺も欲しい

>>75
官能小説は要らんなあ。昭和じゃあるまいし