マクニカは、海外からセキュリティ製品を仕入れ、国内で販売している企業。マクニカ セキュリティ研究センターの凌翔太氏は、まずはChatGPTの悪用事例について紹介し、次にChatGPTを組み込んだシステムがどのように攻撃にさらされるか、についても解説し ...

「人間並みに自然な文章で入力したテキストに応えてくれる」ことで話題となったOpenAIの対話型AI「ChatGPT」はオンラインで一般公開されており、基本無料で誰でもアクセスできます。ChatGPTの作成するテキストには制限がかけられていますが、テキスト入力に ...

OpenAIの対話型AIであるChatGPTは、入力した文章(プロンプト)に対してまるで人間が返答しているようなテキストを高い精度で出力します。しかし、ChatGPTにはコンテンツ制限がかかっているため、性的あるいは暴力的な内容については回答が返ってこないことも ...

サイバー攻撃者によるChatGPTの悪用では、「フィッシングメールに代表されるソーシャルエンジニアリングのための文章作成」と、「マルウェア開発のためのコード生成」という2つのケースが考えられるという。 ChatGPTはOpenAIが定めたポリシーに基づいて運用 ...

大規模言語モデル「GPT-4」をアレックス・ポリャコフがハッキングして安全システムを突破するまで、たった数時間しか必要としなかった。 人工知能（AI）企業のOpenAIが文章を自動生成するチャットボットの最新版として2023年3月にGPT-4を公開したとき、ポリ ...

私は毎日ChatGPTを使っており、これまで数多くのAIに関する記事も書いてきた。便利なツールであるのは間違いないが、だからといって何でもAI任せにするのは危険だ。実際、ChatGPTは平気で間違った情報を自信満々に伝えてくることもある。最新情報を把握し ...