会員(無料)になると、いいね!でマイページに保存できます。 AIの社会実装において、重要キーワードとして浮上している「アラインメント」。直訳すると「調和させる・並べる」などの意味を持つが、脳科学者の茂木健一郎氏によれば「アラインメント ...
Opinion

The problem with AI flattering us

If we do not address AI's sycophancy problem, we risk AI becoming "a giant mirror to our illusions." ...
株式会社カナメプロジェクトは、取締役CEOの遠藤 太一郎(えんどう たいちろう)が執筆・投稿した人工知能(AI)の「垂直的成長」のための学習に関する研究論文が、AI分野の国際会議・AAAI(The Association for the Advancement of Artificial Intelligence)に採択され、2025 ...
会員(無料)になると、いいね!でマイページに保存できます。 人間の脳は、1日に3万5000回以上の選択を無意識に行っていると言われる。そのメカニズムこそが、AIのアラインメント設計において鍵を握ると指摘するのが脳科学者の茂木健一郎氏である。
株式会社カナメプロジェクトは、取締役CEOの遠藤 太一郎(えんどう たいちろう)が執筆・投稿した人工知能(AI)の「垂直的道徳成長」のための学習に関する研究論文が、カナダ・バンクーバーで開催されるAI・機械学習分野のトップカンファレンス「ICML ...
ポッドキャスト「SNEAK PEEKS at SZ MEMBERSHIP」はこちらからご視聴いただけます。 A:みなさん、こんにちは。SNEAK PEEKS at SZ MEMBERSHIPでは、SZ会員向けに公開した記事のなかから、注目のストーリーを編集長の松島が読み解いていきます。2023年4月WEEK#2のテーマは ...
アラヤ創業者。2000年京都大学理学部卒業後、05年オランダ・ユトレヒト大学で人間の視覚情報処理メカニズムの研究でPhD取得。米国カルフォルニア工科大学、英国ユニバーシティ・カレッジ・ロンドンにて研究員。JSTさきがけ研究員、英国サセックス大学准 ...
Vivek Shah isn’t a one-trick pony. Before launching Gauge AI, he cut his teeth in the competitive world of consumer tech, ...