亚洲精品久久久久久久久久久,亚洲国产精品一区二区制服,亚洲精品午夜精品,国产成人精品综合在线观看,最近2019中文字幕一页二页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

哈工大訊飛聯(lián)合實驗室發(fā)布的中文ELECTRA系列預訓練模型再迎新成員

深度學習自然語言處理 ? 來源:深度學習自然語言處理 ? 作者:哈工大訊飛聯(lián)合實 ? 2020-12-26 09:49 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

哈工大訊飛聯(lián)合實驗室發(fā)布的中文ELECTRA系列預訓練模型再迎新成員。我們基于大規(guī)模法律文本訓練出中文法律領域ELECTRA系列模型,并且在法律領域自然語言處理任務中獲得了顯著性能提升。歡迎各位讀者下載試用相關(guān)模型。

項目地址:http://electra.hfl-rc.com

中文法律領域ELECTRA

我們在20G版(原版)中文ELECTRA的基礎上加入了高質(zhì)量2000萬裁判文書數(shù)據(jù)進行了二次預訓練,在不丟失大規(guī)模通用數(shù)據(jù)上學習到的語義信息,同時使模型對法律文本更加適配。本次發(fā)布以下三個模型:

legal-ELECTRA-large, Chinese:24-layer,1024-hidden, 16-heads, 324M parameters

legal-ELECTRA-base, Chinese:12-layer,768-hidden, 12-heads, 102M parameters

legal-ELECTRA-small, Chinese: 12-layer, 256-hidden, 4-heads, 12M parameters

快速加載

哈工大訊飛聯(lián)合實驗室發(fā)布的所有中文預訓練語言模型均可通過huggingface transformers庫進行快速加載訪問,請登錄我們的共享頁面獲取更多信息。

https://huggingface.co/HFL

模型鍵值如下:

hfl/chinese-legal-electra-large-discriminator

hfl/chinese-legal-electra-large-generator

hfl/chinese-legal-electra-base-discriminator

hfl/chinese-legal-electra-base-generator

hfl/chinese-legal-electra-small-discriminator

hfl/chinese-legal-electra-small-generator

效果評測

我們在罪名預測以及要素抽取任務上進行了基線測試。其中罪名預測任務使用的是CAIL 2018數(shù)據(jù),要素抽取任務為in-house實際應用。可以看到本次發(fā)布的法律領域ELECTRA模型均相比通用ELECTRA模型獲得了顯著性能提升。

表1罪名預測任務

e4007c02-4691-11eb-8b86-12bb97331649.png

表2要素抽取任務

e46fa672-4691-11eb-8b86-12bb97331649.png

其他相關(guān)資源

TextBrewer知識蒸餾工具

http://textbrewer.hfl-rc.com

中文BERT、RoBERTa、RBT系列模型

http://bert.hfl-rc.com

中文XLNet系列模型

http://xlnet.hfl-rc.com

中文MacBERT模型

http://macbert.hfl-rc.com

責任編輯:xj

原文標題:哈工大訊飛聯(lián)合實驗室發(fā)布法律領域ELECTRA預訓練模型

文章出處:【微信公眾號:深度學習自然語言處理】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 算法
    +關(guān)注

    關(guān)注

    23

    文章

    4750

    瀏覽量

    97009
  • 深度學習
    +關(guān)注

    關(guān)注

    73

    文章

    5588

    瀏覽量

    123811
  • 訓練模型
    +關(guān)注

    關(guān)注

    1

    文章

    37

    瀏覽量

    4040

原文標題:哈工大訊飛聯(lián)合實驗室發(fā)布法律領域ELECTRA預訓練模型

文章出處:【微信號:zenRRan,微信公眾號:深度學習自然語言處理】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    強強聯(lián)合:之江實驗室與沐曦股份共建智算集群聯(lián)合實驗室

    2025年10月22日, 之江實驗室與沐曦集成電路(上海)股份有限公司(以下簡稱“沐曦股份”)正式簽署合作協(xié)議,共同組建“智算集群聯(lián)合實驗室”,攜手推進人工智能算力基礎設施創(chuàng)新發(fā)展 。之江實驗
    的頭像 發(fā)表于 10-23 10:50 ?838次閱讀

    光峰科技與深圳技術(shù)大學簽署聯(lián)合實驗室合作協(xié)議

    10月16日,光峰科技公告官宣,與深圳技術(shù)大學擬簽署《光峰科技與深圳技術(shù)大學聯(lián)合實驗室合作協(xié)議》,圍繞半導體激光前沿領域進行合作研發(fā),共同建立聯(lián)合實驗室,預計在協(xié)議有效期的6年內(nèi),向
    的頭像 發(fā)表于 10-17 17:32 ?1024次閱讀

    高鴻信安出席飛騰基礎軟件聯(lián)合實驗室第四屆年會

    近日,以 “芯軟融合·智啟未來”為主題的飛騰基礎軟件聯(lián)合實驗室(簡稱 “實驗室”)第四屆年會暨技術(shù)交流分享會在南京順利召開。大唐高鴻信安(浙江)信息科技有限公司(簡稱“高鴻信安”)作為實驗室
    的頭像 發(fā)表于 07-16 15:08 ?620次閱讀

    飛騰基礎軟件聯(lián)合實驗室第四屆年會暨技術(shù)交流分享會順利召開

    近日,以 “芯軟融合·智啟未來” 為主題的飛騰基礎軟件聯(lián)合實驗室(簡稱 “實驗室” )第四屆年會暨技術(shù)交流分享會在南京順利召開?;顒又荚谶M一步凝聚實驗室
    的頭像 發(fā)表于 07-16 10:01 ?631次閱讀

    奧迪威攜手華南理工大學共建聯(lián)合創(chuàng)新實驗室,校企深度合作助力產(chǎn)業(yè)升級

    2025年5月21日,廣東奧迪威傳感科技股份有限公司與華南理工大學聯(lián)合設立的創(chuàng)新實驗室正式揭牌。
    的頭像 發(fā)表于 05-23 08:48 ?1171次閱讀
    奧迪威攜手華南理<b class='flag-5'>工大</b>學共建<b class='flag-5'>聯(lián)合</b>創(chuàng)新<b class='flag-5'>實驗室</b>,校企深度合作助力產(chǎn)業(yè)升級

    中汽信科牽頭成立汽車北斗應用聯(lián)合實驗室

    近日,由中汽信科牽頭組建的“汽車北斗應用聯(lián)合實驗室”(以下簡稱“聯(lián)合實驗室”)正式通過中國產(chǎn)學研合作促進會評審,并獲批授牌。
    的頭像 發(fā)表于 03-27 15:22 ?792次閱讀

    用PaddleNLP為GPT-2模型制作FineWeb二進制訓練數(shù)據(jù)集

    ,使用PaddleNLP將FineWeb數(shù)據(jù)集中文本形式的數(shù)據(jù),經(jīng)過分詞化(Tokenize),轉(zhuǎn)換為大語言模型能直接使用的二進制數(shù)據(jù),以便提升訓練效果。 ChatGPT發(fā)布后,當代大
    的頭像 發(fā)表于 03-21 18:24 ?3541次閱讀
    用PaddleNLP為GPT-2<b class='flag-5'>模型</b>制作FineWeb二進制<b class='flag-5'>預</b><b class='flag-5'>訓練</b>數(shù)據(jù)集

    龍芯“百芯計劃”聯(lián)合實驗室首批高校名單揭曉

    為響應國家集成電路產(chǎn)業(yè)發(fā)展戰(zhàn)略,龍芯中科于2024年9月啟動“LoongArch生態(tài)聯(lián)合創(chuàng)新實驗室-百芯計劃”,旨在通過校企合作模式,在全國范圍選擇百所高校,共建芯片聯(lián)合實驗室,加速自
    的頭像 發(fā)表于 01-24 11:47 ?1226次閱讀

    科大發(fā)布醫(yī)療大模型升級版

    近日,科大宣布了一項令人矚目的計劃:在2025年上半年,公司將正式發(fā)布基于星火X1的醫(yī)療大模型
    的頭像 發(fā)表于 01-17 09:57 ?888次閱讀

    科大星火大模型升級發(fā)布會回顧

    發(fā)布首個基于全國產(chǎn)算力平臺訓練的具備深度思考和推理能力的大模型——星火深度推理模型X1,
    的頭像 發(fā)表于 01-16 14:51 ?2120次閱讀

    科大發(fā)布星火X1深度推理大模型

    近日,科大宣布了一項重大突破,成功推出了當前全國產(chǎn)算力平臺上唯一的深度推理大模型——星火X1。這款大
    的頭像 發(fā)表于 01-16 10:46 ?1013次閱讀

    科大即將發(fā)布星火深度推理模型X1

    近日,科大飛在1月7日成功舉辦的辦公智能體產(chǎn)品升級發(fā)布會上,宣布了一項令人振奮的新進展。據(jù)科大官方透露,公司將于1月15日正式對外發(fā)布
    的頭像 發(fā)表于 01-08 10:30 ?972次閱讀

    阿里云與零一萬物戰(zhàn)略合作,成立產(chǎn)業(yè)大模型聯(lián)合實驗室

    近日,阿里云與業(yè)界領先的大模型企業(yè)零一萬物宣布達成模型平臺業(yè)務的戰(zhàn)略合作。此次合作的核心內(nèi)容是雙方將共同成立“產(chǎn)業(yè)大模型聯(lián)合實驗室”,旨在加
    的頭像 發(fā)表于 01-03 11:12 ?749次閱讀

    梯度科技成為AI Cloud MSP技術(shù)服務實驗室首批成員單位

    近日,2024全球數(shù)字經(jīng)濟大會云·AI·計算國際合作論壇成功召開。會上,公布了AI Cloud MSP技術(shù)服務實驗室首批成員單位,梯度科技憑借在人工智能云管理服務領域的卓越實力成為AI Cloud MSP技術(shù)服務實驗室首批
    的頭像 發(fā)表于 12-18 10:07 ?960次閱讀

    小米與聚光電成立聯(lián)合實驗室

    近日,“小米&聚聯(lián)合實驗室”在惠州聚正式揭牌成立。該實驗室將以Mini背光技術(shù)創(chuàng)新為主要方向,進一步強化雙方在顯示終端領域的多元化合作。
    的頭像 發(fā)表于 11-27 10:45 ?902次閱讀