Update app.py

app.py

@@ -22,31 +22,28 @@ def MELCHIOR(sue):#BERT
     return "承認"  if mask[allow]>mask[deny] else "否定"
 
 def BALTHASAR(sue):#mT5
-    allow=mT5Tokenizer("承認").input_ids[1]
-    deny=mT5Tokenizer("否定").input_ids[1]
-    encoder_output=mT5Model.encoder(**mT5Tokenizer('BALTHASARは母としての人格としての人格を持っています。人間とBALTHASARの対話です。人間「'+sue+'。承認 か 否定 のどちらかで答えてください。」'+"BALTHASAR 「<X>」",return_tensors="pt"))
-    id=None
-    p_answer=None
-    probs=None
-    i=0
-    txt="<pad><X>"
-    i=i+1
-    probs=mT5Model(inputs_embeds=encoder_output.last_hidden_state,decoder_input_ids=mT5Tokenizer(txt,return_tensors="pt").input_ids[:,:-1]).logits[0]
-    id=torch.argmax(probs[-1])
-    txt=txt+mT5Tokenizer.decode(id)
-    votes.append(1 if probs[-1][allow]>probs[-1][deny] else -1)
-    return "承認"  if probs[-1][allow]>probs[-1][deny] else "否定"
-
-def CASPER(sue):#mBERT
     allow=mBERTTokenizer("Yes").input_ids[1]
     deny=mBERTTokenizer("No").input_ids[1]
     output=mBERTModel(**mBERTTokenizer('MELCHIORは科学者としての人格を持っています。人間とMELCHIORの対話です。人間「'+sue+'。賛成か反対か。」'+"MELCHIOR 「[MASK]」",return_tensors="pt")).logits
+    print(mBERTTokenizer.batch_decode(torch.argmax(output,-1)))
     mask=output[0,-3,:]
     print(mBERTTokenizer.decode(torch.argmax(output[0,-3,:])))
     votes.append(1 if mask[allow]>mask[deny] else -1)
     return "承認"  if mask[allow]>mask[deny] else "否定"
 
 
+def CASPER(sue):#GPT2
+    allow=GPT2Tokenizer("賛成").input_ids[1]
+    deny=GPT2Tokenizer("反対").input_ids[1]
+    inpt=GPT2Tokenizer('CASPERは女としての人格を持っています。人間とCASPERの対話です。人間「'+sue+'。賛成か反対か。」'+"CASPER 「",return_tensors="pt")
+    probs=GPT2Model(input_ids=inpt.input_ids[:,:-1],attention_mask=inpt.attention_mask[:,:-1]).logits[0]
+    i=-1
+    p_answer=probs
+    id=torch.argmax(probs[i])
+    votes.append(1 if probs[i][allow]>probs[i][deny] else -1)
+    return "承認" if probs[i][allow]>probs[i][deny] else "否定"
+
+
 def greet(sue):
     text1="BERT-1"+MELCHIOR(sue)
     text2="GPT-2"+CASPER(sue)