AIライティングサービスRytr+DeepLで初めてそれなりの文章が書けた

最先端のAI GPT-3を使ったライティングサービス、Rytr(ライター)を改めて試してみました。同じGPT-3を利用した、AIによる文章の(半)自動生成は、Catchyという新しいサービスを日本語で試すことで、Rytrにも再チャレンジしようという気になったわけです。というか、ずっと地味に試し続けてはいたんですけどね。

結果は、13打数2安打でクリーンヒット2本!残りは全部、無様な凡退ですが、今まで完封負けに終わっていたことを考えれば、少なくともヒットを打つ能力があることがわかっただけで結果オーライ(昭和特有の、何でも野球喩えたがりではなく、今回のテーマがMLBなんです!)。『アルプスの少女ハイジ』の『クララが立った!』ぐらいの感覚でお読みいただければ幸いです。立ったのが、草原ではなくバッターボックスですがw

AIライティングサービスについての雑感(私が試している範囲)

  • 現状、ほぼ使い物にはならない。作業全体での効率化もできない(短文なら、まだ可能性あり?)。
  • 英語で(も)情報が豊富にあるテーマなら、英語でテキストを書かせれば、精度は上げられる。
  • もし日本語化が必要なら、それをDeepLで翻訳する方が妥当。
  • 公開済みの過去の記録も正確に参照できないので、ファクトチェックは、結局、人力でやる必要がある。
  • 日本国内特有のテーマは、まず無理。

Rytr(ライター)についてのおさらい

Rytr(ライター)が、どんなAIコピーライティングサービスかは、こちらの記事をお読みいただければ幸いです。

なお、2022年夏のRytrのアップデートは主にこんなところです。

  • ダークモードに対応(目が弱い私は大助かり!)
  • ブログへの最適化
  • 仕事で活きるメールの書き方が強化(今回は未検証)
  • 写真やビデオのキャプションをいい感じに(これも未検証)
  • 「語調」と「目的」は、いつの間にか拡張されていた

Rytr(というかGPT-3)が得意そうなネタでリトライ

Catchyで試したテーマの一つ、『2022年シーズン前半のMLBサンフランシスコジャイアンツレポート』をRytrでも試すことにしました。特徴としては以下の通りです。

今回は、主に英語で文章を生成し、そこに同じくAIを使った翻訳サービスDeepLを組み合わせて、日本語として自然な文章になるかをチェックすることにしました。

  • MLBの公式サイト以外に、スポーツ系サイトなどでも言及されている。
  • 最新のゲームスコアや選手個人の成績が、日々アップデートされている。
  • 世界的に見れば、サッカーよりも野球はマイナースポーツながら、情報は豊富なはず。
  • 圧倒的に英語の情報がメイン。最初に生成されるのが英語のテキストでも構わず、最終的なテキストはDeepLで日本語に。
  • そもそも、今シーズンは日本人選手の出場・登録がないので、日本語の情報が限定的。

【参考】
https://www.mlb.com/giants
https://www.espn.com/mlb/team/_/name/sf/san-francisco-giants
https://www.baseball-reference.com/teams/SFG/2022.shtml
https://baseball.yahoo.co.jp/mlb/teams/2021026/top

「批評的/生成レベル:中」は良さそうながら、問題多し!

まずは、以下のような設定でテキストを生成してみました。これだけは、DeepLを使わず、直接、Rytrに日本語で生成させてみます。

【準備と生成】
出力言語:日本語
語調:批評的に
目的:ブログ記事
バリエーション:3
生成レベル:中

セクショントピック(最大125文字)
MLB San Francisco Giants 2022 Season Report. As of August 7, they are 22 games behind the LA Dodgers.

セクションキーワード(最大125文字)
major,league,baseball,San Francisco,Giants,national,west,division,wins,losses,game,score,sf,pitch,career,inning,base,ball,bat

「語調:批評的に」「生成レベル:中」で、日本語で3つのバリエーションを生成
「語調:批評的に」「生成レベル:中」で、日本語で3つのバリエーションを生成

生成された文章1

サンフランシスコ ジャイアンツはナショナル リーグ西地区にあり、LA ドジャースに 22 ゲーム差をつけられています。
サンフランシスコ ジャイアンツは、ロサンゼルス ドジャースに 22 ゲーム差をつけられており、これまでのところ厳しいシーズンを過ごしてきました。彼らは 7 月 4 日以降 1 試合も勝っていません。ジャイアンツは今シーズンの勝敗で9位。

【ファクトチェック】
参考:このテキストを生成した日本時間8月9日(火)16時時点で、ゲーム差21.5に。
ウソ:7月4日から14勝している。
ウソ:ナショナルリーグ西地区には元々5チームしかないし、この時点で3位。

生成された文章2

サンフランシスコ ジャイアンツは、ナショナル リーグ西地区でプレーするメジャー リーグ ベースボール チームです。ジャイアンツはカリフォルニア州サンフランシスコに本拠地を置き、ナショナル リーグの西部地区に所属しています。
直近のシーズンで、ジャイアンツは 64 勝 98 敗の成績で終了しました。 8月7日時点で86勝56敗のLAドジャースとは22試合差。ジャイアンツは現在 5 位であり、今シーズン残り 2 試合で部門の最下位となっています。

【ファクトチェック】
ウソ:8月7日時点のドジャースの成績は、74勝33敗。
ウソ:今シーズンはまだまだ残りゲームがタップリある!

生成された文章3

サンフランシスコ ジャイアンツは、サンフランシスコ市出身のメジャー リーグ ベースボール チームです。ジャイアンツはナショナル リーグ西地区にあり、LA ドジャースに 22 試合差をつけられています。
ジャイアンツは今年、これまでのところ素晴らしいシーズンを過ごしていません。彼らは現在、43-59 の記録を持っており、最新の敗北は 8 月 4 日にアリゾナ ダイヤモンドバックスにもたらされました。

【ファクトチェック】
ウソ:8月5日(金)にドジャースに負けた。7日の対戦相手はアスレチックスだし、9日のゲームではパドレスに勝った。

【結果と評価(5点満点)】
x
残念ながら、嘘が多くて使い物になりませんでした。野球がテーマなことやチーム、成績、勝率などは理解していますが、本当のことに嘘が混じっているのでたちが悪いですね。また、今シーズンの情報も、自分で指定した以外の情報が挿入されず、物足りない結果に終わりました。


「フォーマル/生成レベル:最適」は、フォーマルで過去の話過ぎ

ここからは、出力は英語のままにして、後からDeepLで翻訳してみます。設定をちょっと弄って、「語調:フォーマル」「生成レベル:最適」に変えてみました。「セクショントピック」「セクションキーワード」はそのままでトライ!

【準備と生成】
出力言語:英語
語調:フォーマル
目的:ブログ記事
生成レベル:最適

「語調:フォーマル」「生成レベル:最適」で、英語に変えて3つのバリエーションを生成
「語調:フォーマル」「生成レベル:最適」で、英語に変えて3つのバリエーションを生成

生成された文章4〜6

全然ダメだったので、もう文面はいちいち掲載しません…

【結果と評価(5点満点)】
x
残念ながら、文面は確定している過去の話題ばかりになってしまい、今年の情報が全く反映されませんでした。嘘もダメだけど、目的に合ってないのもNG。ファクトチェックする気にもならず、諦めました 🙁

DeepLは素晴らしい!でも過信は禁物!

DeepLの翻訳は高機能で便利な反面、たまにとんでもないミスも
DeepLの翻訳は高機能で便利な反面、たまにとんでもないミスも

DeepLの翻訳機能は優秀で、私も日頃からお世話になっています。

ただ、時々、とんでもない誤訳をしてしまうことがあるのも事実。何でも頼り切りはいけません。そこで私は、「訳し戻し」で検証するようにしています。例えば、英語→日本語に翻訳してみたら、もう一度日本語→英語にして、チェックするやり方です。これによって、主語と述語の関係や、修飾語の掛かり具合、わかり辛い略号などがはっきりすることがあります。

今回の例だと、例えば、主語がMLBかSan Francisco Giantsかで文脈は変わります。また、「ナ・リーグ」ではなく「ナショナルリーグ」にしておかないと、正しく翻訳されないのは、AI全般に指示する時に曖昧さを排除するために必要な処理です。

「トピック」と「キーワード」を微調整してみる

ここでふと再考。

2022年シーズンがまだ終わっていないのに、レポートを出させようとしているのに無理があるとか?また、ナショナルリーグ西地区のような分かりきった情報は、敢えてキーワードに入れなくてもいいのでは?むしろ、打率や出塁率、勝率などに関係する略語を入れた方が、いい結果になるのでは?

「語調:批評的に」は、スポーツチャンネルのコメンテーター的なスタイルが期待できそうですし、事実に基づいてほしいので「生成レベル:最適」で、再挑戦してみます。

セクショントピック
Major League Baseball NL West San Francisco Giants team and players performance and news from April to August in 2022

セクションキーワード
MLB,baseball,San Francisco,Giants,SF,wins,losses,game,score,pitch,career,inning,base,ball,bat,average,AVG,RBI,OBP,OPS,ERA

「セクショントピック」と「セクションキーワード」を変えてみる
「セクショントピック」と「セクションキーワード」を変えてみる

生成された文章7〜9

これも全滅…

【結果と評価(5点満点)】
x
これも全部ダメでした。日付や勝敗、対戦チーム、勝率などがそれらしく散りばめられているものの、ほぼ嘘。それも、2021〜2019年ぐらいの成績を参照しているのかと思ってチェックしたところ、どこにも該当しない!つまり捏造ですw おいおい、GPT-3でフェイクの生成は禁止されているんじゃないの!?

アプローチを大胆に変えてみることに!

過去の記録を正確に参照できない(!)のであれば、今シーズンの結果予測は?例えば、エンジェルス大谷翔平の獲得に動くか?とか。実際、もしそうなったら、西海岸のチームで獲得競争になりそうという噂もありました。

大谷選手は、今シーズンも投打に大活躍して大きな話題になっているので、情報がフレッシュなことと、膨大な量がインデックスされていることは間違いありあません。先日も、今シーズンのトレード期限を迎える辺りで、いろいろな噂が飛び交っていたタイミングです。これならどうだ!

【準備と生成】
出力言語:英語
語調:熱狂的に
目的:ブログ記事
生成レベル:最適

セクショントピック
Is there a chance for the MLB San Francisco Giants to get two way baseball player superstar Shohei Ohtani this offseason?

セクションキーワード
MLB,baseball,San Francisco,Giants,Shohei Ohtani,game,score,pitch,career,inning,base,ball,bat,average,contract,agent,ERA,OBP

「語調:熱狂的に」に変えて、「セクショントピック」「セクションキーワード」も変更
「語調:熱狂的に」に変えて、「セクショントピック」「セクションキーワード」も変更

生成された文章10

The MLB San Francisco Giants will not be able to get Shohei Ohtani this offseason. There is a very slim chance of this happening due to the lack of money and other resources.
This year, there has been a lot of speculation about the MLB San Francisco Giants getting two way baseball player superstar Shohei Ohtani. The team is in need of more pitching and he would be a perfect fit for them. But, this is not going to happen due to the lack of money and other resources that they have.
(DeepLで翻訳)
MLBサンフランシスコ・ジャイアンツが今オフに大谷翔平を獲得することはないだろう。資金力不足などで実現する可能性は極めて低い。
今年、MLBサンフランシスコ・ジャイアンツが野球の二刀流スーパースター大谷翔平を獲得するという憶測が飛び交っている。投手陣が不足している同チームにとって、彼はまさにうってつけの人材といえるだろう。しかし、資金などのリソースが不足しているため、実現には至っていない。

【結果と評価(5点満点)】
★★★★
ついにまともな文章が生成できました!「語調:熱狂的に」が見事にはまったのか!?具体性にはちと欠けますが、初めてのクリーンヒットです。ジャイアンツの投手陣が不足しているという分析も入って、それなりの仕上がり。

調子に乗って、この後に追加のセンテンスを書いてもらいました。

生成された文章13(最後に追加生成)

There is actually a very slim chance of the MLB San Francisco Giants signing Shohei Ohtani this offseason. With all of the money that they have to spend due to revenue sharing, there is not enough left over. They only have 1 billion dollars to spend on 40 million dollars in spending and that is why they are not getting Shohei Ohtani.
(DeepLで翻訳)
MLBサンフランシスコ・ジャイアンツが今オフに大谷翔平と契約する可能性は、実は非常に低い。レベニューシェアの関係で使わなければならないお金があるため、残りが少ないのです。彼らは4000万ドルの支出に対して10億ドルしか持っておらず、それが大谷翔平を獲得できない理由です。

【結果と評価(5点満点)】
★★★
生成されたテキストは、繰り返しだったり語尾のゆらぎはありますが、具体的な金額が挿入されました。説得力がグッと増しますね。タイプライターのように一文字ずつしかし高速に表示されるのは、ちょっと面白い。

チーム予算と思われる「10億ドル」は、どこから出てきた数字でしょう?ジャイアンツの今シーズントータルの予算は152,563,799ドルで、30チーム中18位。そのうち、出場登録選手に支払っている総額が106,880,985ドルと想定されています。

一方の「4,000万ドル」という数字は、やや高めかもしれませんがそこそこいい線でしょう。

大谷選手は、日本時間で8月10日のアスレチックス戦で、10勝目(7敗)を上げました。これで、球童ベーブ・ルース以来、104年ぶりの「2ケタ勝利/2ケタ本塁打」を達成!来季の年俸は、3,000万〜3,500万ドル(約39億8,000〜約47億円)とも噂されているとのこと。今シーズンの残りの成績次第では、4,000万ドルに近づくはずです。

生成された文章11

バリエーションを3つ生成して、ダメだった残りの2本も見せておきましょう。

The San Francisco Giants have been waiting for the chance to get two way baseball player superstar Shohei Ohtani this offseason.
Shohei Ohtani is a Japanese professional baseball pitcher and outfielder who is playing for the Nippon Ham Fighters in Japan's Nippon Professional Baseball (NPB). He was the first player since Babe Ruth to be named both a pitcher and an everyday position player in his major league debut.
He has been regarded as one of the best pitchers in NPB, with a fastball that touches 100 miles per hour. He is also known for his bat speed, which enables him to hit home runs with ease at NPB level.
(DeepLで翻訳)
サンフランシスコ・ジャイアンツは今オフ、野球界の二刀流スーパースター、大谷翔平選手を獲得する機会を待っていました。
大谷翔平選手は、日本のプロ野球、日本プロ野球(NPB)の日本ハムファイターズで活躍する投手兼外野手です。ベーブ・ルース以来のメジャーデビュー戦で投手と遊撃手の両方を任された選手である。
NPB屈指の投手として知られ、時速100マイル(約155キロ)の速球を投げる。また、バットスピードにも定評があり、NPBレベルでも軽々とホームランを打つことができる。

【結果と評価(5点満点)】
x
今シーズンオフの話が全然ないので、ダメ。

生成された文章12

Shohei Ohtani is a Japanese professional baseball player who is one of the most talented and sought after players in the MLB. He has been playing for the Nippon Ham Fighters of Japan’s Pacific League since 2013, and has played as a pitcher and designated hitter.
The San Francisco Giants are an American professional baseball team based in San Francisco, California. They are members of the National League West Division of Major League Baseball (MLB) in the United States. The Giants have won eight World Series championships, including five under manager John McGraw in New York and three under manager Leo Durocher.
(DeepLで翻訳)
大谷翔平は、MLBで最も才能があり、注目されている日本のプロ野球選手である。2013年から日本のパシフィック・リーグの日本ハムファイターズでプレーし、投手と指名打者として活躍しています。
サンフランシスコ・ジャイアンツは、カリフォルニア州サンフランシスコに本拠地を置くアメリカのプロ野球チームです。米国メジャーリーグベースボール(MLB)のナショナルリーグ西地区に所属している。ワールドシリーズでは、ニューヨークのジョン・マクグロー監督時代に5回、レオ・ドロワー監督時代に3回の優勝を果たすなど、8回の優勝を経験している。

【結果と評価(5点満点)】
x
こっちも評価以前で、ゲーム終了。


鉄は熱いうちに打て。今回のRytr+DeepLのテストは、Catchyのテストの直後にやってみました。

正直なところ、もう少しいい感じの文章が生成されるものだと期待していたんですが(毎回いってるよ…)、やや残念な結果でした。2割にも満たない成功率ですし、勘所もなかなか掴めません。とはいえ、引き続き辛抱強く、しつこく試していくつもりです。

kotobato

いろいろなテキストを書いたり、デザインに関するクリエイティブワークをやってます。ソーシャルやインストラクションもお任せ!どうぞお気軽にお声掛け・ご相談ください。
https://drift.me/kotobato
https://www.kotobato.jp/inquiry