馬場 海好, 狩野 芳伸(静岡大学)

馬場 海好, 狩野 芳伸, 日本語事前学習済みBERTの言語学的機能による差分入力を用いたAttentionヘッド別機能分析, 人工知能学会全国大会論文集, 2024, JSAI2024 巻, 第38回 (2024), セッションID 3Xin2-69, p. 3Xin269, 公開日 2024/06/11

この研究は従来のLSTMの課題を克服したxLSTMアーキテクチャを日本語言語処理に適用し、その有効性を検証したものである。1.3Bパラメータおよびよりコンパクトな125Mパラメータモデルを構築し、Wikipedia日本語データセットで学習した結果、両モデルともに一定の日本語文章生成能力を獲得した。実験では学習過程での文章生成能力の変化を継続的に検証し、比較的少ないパラメータ数でも効果的な日本語言語モデルの開発が可能であることを示した。

「ほいくるーず」は、園児の乗降を顔識別で管理し、園児のバス置き去り問題の防止や忘れ物防止や保護者への通園状況の共有を目的としたアプリです。バスのリアルタイム位置情報表示や、簡単な操作での欠席連絡機能を備え、保育園と保護者の双方の通園に関する不安や悩みを解決します。機械学習とユーザーフレンドリーなインターフェースを駆使して、園児の安全と保護者の利便性の向上を図っています。

エンジニアを採用する企業に向けた採用支援ツール「ES Harmony」です。自然言語処理を用いたAIで採用プロセスを大幅に簡略化します。完全にAIに任せず、あくまで「採用をサポートする」ツールを目指しました。

サポーターズ社が主催する技育CAMPハッカソン vol.11(2023/02/11~12)にて開発した作品です。コロナ禍におけるマスクの着脱のマジョリティをAIによって可視化するアプリになります。

サポーターズ社が主催する技育CAMPハッカソン開発した作品です。プレイヤーが感情を指定された単語を用いて表現し、その文章を大規模言語モデルBERTを感情分類タスクにファインチューニングした言語モデルによって算出されたスコアを競うゲームを開発しました。