99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

PXE批量裝機(jī)實(shí)戰(zhàn):從DHCP到Kickstart無人值守部署

PXE批量裝機(jī)實(shí)戰(zhàn):從DHCP到Kickstart無人值守部署 做運(yùn)維的最煩的一類重復(fù)勞動是什么我個人的答案不是故障排查也不是上線變更而是裝系統(tǒng)。故障排查好歹有挑戰(zhàn)性上變更也算有點(diǎn)儀式感裝系統(tǒng)純粹是體力活。尤其是有幾十臺裸機(jī)需要交付的時候光盤加U盤一臺一臺懟一下午下來人都是麻的而且手動操作最容易出岔子機(jī)器配置稍有不同分區(qū)方案和基礎(chǔ)設(shè)置就容易弄亂。后來我把目光轉(zhuǎn)向PXE批量裝機(jī)才算是把這個環(huán)節(jié)真正從“人肉模式”切換到了“半自動流水線”。這篇文章就把我折騰PXE的完整過程、踩過的坑、以及最終沉淀下來的方案一次性說清楚。PXEPreboot eXecution Environment預(yù)啟動執(zhí)行環(huán)境簡單講就是讓機(jī)器通過網(wǎng)卡引導(dǎo)系統(tǒng)不需要任何本地存儲介質(zhì)介入。配合DHCP自動分配地址、TFTP傳輸引導(dǎo)文件、HTTP或NFS提供安裝源、Kickstart應(yīng)答文件自動填表一套批量裝機(jī)系統(tǒng)就能在半小時內(nèi)完成從規(guī)劃到上線。整個過程的核心思路是只在一臺服務(wù)器上做一次配置后面所有客戶端機(jī)器只要設(shè)好網(wǎng)絡(luò)啟動選項(xiàng)就能全自動完成系統(tǒng)的部署、分區(qū)、配置和基礎(chǔ)軟件安裝。這篇文章適合所有承擔(dān)過批量交付任務(wù)的運(yùn)維工程師、網(wǎng)管、以及想深入理解Linux網(wǎng)絡(luò)引導(dǎo)原理的學(xué)習(xí)者。不會只講命令怎么敲我會把每個關(guān)鍵組件“為什么這么設(shè)計”也一并講透并附上實(shí)操中真正會遇到的故障和對應(yīng)排查方法。1. 內(nèi)容整體設(shè)計與思路拆解1.1 裝機(jī)這件事為什么要“網(wǎng)絡(luò)化”先從需求說起。假設(shè)你面前有30臺配置相近的服務(wù)器需要統(tǒng)一安裝某個Linux發(fā)行版并預(yù)設(shè)同樣的主機(jī)名規(guī)則、分區(qū)結(jié)構(gòu)、網(wǎng)絡(luò)參數(shù)和初始化用戶。傳統(tǒng)手工裝機(jī)的流程是制作啟動盤、逐臺插拔、選擇鏡像、分區(qū)、寫配置、裝系統(tǒng)、然后手工執(zhí)行后續(xù)腳本。操作周期的重復(fù)度非常高人工介入越久出現(xiàn)偏差的概率越大比如分區(qū)時手滑選錯盤或者軟件包列表沒勾全都可能在交付后暴露成線上問題。用PXE之后流程變成了所有機(jī)器上電開機(jī)網(wǎng)卡主動廣播DHCP請求獲得IP地址和引導(dǎo)文件位置再通過TFTP把引導(dǎo)程序拉下來引導(dǎo)程序去讀取指定安裝源按Kickstart文件里的答案自動完成整個安裝。人只需要在控制臺提前確認(rèn)好默認(rèn)引導(dǎo)菜單剩下的全部交給鏈路自動執(zhí)行。這解決了三個關(guān)鍵問題規(guī)模化交付、配置一致性、無人值守。從原理上看PXE起始于客戶端的網(wǎng)卡固件。網(wǎng)卡固件在啟動階段啟用PXE協(xié)議棧發(fā)出DHCP廣播DHCP服務(wù)器不僅返回IP地址還帶上引導(dǎo)信息比如文件名和服務(wù)器IP。隨后客戶端通過TFTP從引導(dǎo)服務(wù)器拉取引導(dǎo)文件這個文件通常是pxelinux.0或grub相關(guān)的引導(dǎo)器。引導(dǎo)器運(yùn)行后讀取菜單配置文件決定從哪個鏡像啟動最終加載內(nèi)核和解耦然后掛載安裝源開始系統(tǒng)安裝。1.2 方案選型一體化還是分離式搭建PXE環(huán)境有兩條主流路線。一條是用dnsmasq把所有服務(wù)合成一個進(jìn)程順帶把DHCP和TFTP都干了安裝源則用一個HTTP服務(wù)承載。另一條是分離部署DHCP用dhcpd、TFTP用tftp-hpa、HTTP用nginx或httpd各司其職。一開始我圖省事用了一體化方案確實(shí)上手快但等環(huán)境復(fù)雜到要管理多網(wǎng)段、多系統(tǒng)鏡像時單進(jìn)程配置就變得臃腫排障也要從一堆日志里撈。后來生產(chǎn)環(huán)境我全部改成了分離方案。分離方案的好處有很多。DHCP作為整個PXE鏈路的入口配置相對獨(dú)立調(diào)試時不會牽連其他服務(wù)TFTP服務(wù)只在引導(dǎo)階段工作傳輸量小獨(dú)立部署可以單獨(dú)調(diào)整超時和并發(fā)參數(shù)HTTP服務(wù)是安裝源的核心獨(dú)立出來天然支持多目錄、多版本鏡像并行。而且三個服務(wù)進(jìn)程獨(dú)立重啟不會出現(xiàn)一個配置錯了全家起不來的尷尬局面??刂品?wù)器建議用長期支持版本的系統(tǒng)比如Rocky Linux 9或Debian穩(wěn)定版分配一個靜態(tài)內(nèi)網(wǎng)IP。所有PXE相關(guān)的流量都建議在獨(dú)立管理網(wǎng)段中進(jìn)行避免和業(yè)務(wù)流量混跑。安全問題也不要忽略內(nèi)網(wǎng)雖然默認(rèn)可信但TFTP本身沒有認(rèn)證機(jī)制HTTP端口也經(jīng)常是弱防護(hù)區(qū)所以管理網(wǎng)段建議與業(yè)務(wù)網(wǎng)段物理或邏輯隔離至少要做好對應(yīng)的網(wǎng)絡(luò)訪問控制。1.3 鏈路階段拆解從網(wǎng)卡啟動到系統(tǒng)交付完整的PXE裝機(jī)鏈路在原理上可以分為五個階段。第一階段是預(yù)啟動環(huán)境也就是網(wǎng)卡固件發(fā)起DHCP廣播這一步需要客戶端在BIOS或UEFI中開啟網(wǎng)絡(luò)啟動選項(xiàng)并設(shè)置正確的引導(dǎo)順序。第二階段是引導(dǎo)加載階段客戶端通過TFTP獲取引導(dǎo)器引導(dǎo)器再加載內(nèi)核和解耦文件。第三階段是啟動安裝程序階段內(nèi)核掛載initrd后安裝程序開始運(yùn)行并通過引導(dǎo)參數(shù)中的路徑去獲取應(yīng)答文件。第四階段是系統(tǒng)安裝階段安裝程序根據(jù)應(yīng)答文件訪問HTTP安裝源完成文件拷貝、引導(dǎo)安裝和基礎(chǔ)配置。第五階段是首次啟動初始化安裝完成后重啟系統(tǒng)首次啟動執(zhí)行cloud-init、自定義腳本等收尾動作。這里面任何一個環(huán)節(jié)出問題表現(xiàn)都可能極其相似比如卡在某個界面不動、報超時、或者直接拿到一個空內(nèi)核環(huán)境。所以做PXE排障必須牢牢記住這條鏈路順序配合抓包和服務(wù)日志定位才不會亂猜原因。2. 核心組件解析與配置要點(diǎn)2.1 DHCPPXE鏈路的入口總開關(guān)DHCP是PXE啟動的起點(diǎn)。客戶端上電后網(wǎng)卡固件發(fā)出DHCP Discover服務(wù)器需要提供兩組信息一組是常規(guī)IP參數(shù)另一組是PXE引導(dǎo)參數(shù)。常規(guī)參數(shù)包括IP地址、子網(wǎng)掩碼、網(wǎng)關(guān)和DNS。PXE引導(dǎo)參數(shù)則通過DHCP Option 66TFTP服務(wù)器地址和Option 67引導(dǎo)文件名傳遞或者在新版協(xié)議中使用Option 150等擴(kuò)展字段。簡單起見配置時直接把next-server指向TFTP服務(wù)器IP把filename寫成引導(dǎo)文件名。dhcpd配置里相對容易踩的坑是子網(wǎng)聲明和網(wǎng)卡接口綁定。一臺PXE控制服務(wù)器往往有多個網(wǎng)口務(wù)必確認(rèn)DHCP服務(wù)監(jiān)聽的網(wǎng)卡就是通向客戶端網(wǎng)段的那個網(wǎng)卡。啟動服務(wù)后第一步不要急著連客戶端測試先在本機(jī)跑一下DHCP請求模擬驗(yàn)證確認(rèn)服務(wù)能正常分配地址再進(jìn)入下一步。這個習(xí)慣能省下大量神經(jīng)。配置DHCP時還有一個容易被新手忽略的細(xì)節(jié)如果目標(biāo)網(wǎng)段存在其他DHCP服務(wù)器一定要在配置里嚴(yán)格限定子網(wǎng)作用域甚至用allow unknown-clients結(jié)合MAC白名單來控制。PXE環(huán)境講究的是可控如果混進(jìn)來一個非法DHCP服務(wù)器所有客戶端引導(dǎo)都會亂套。2.2 TFTP經(jīng)典小步快跑瓶頸也在小TFTP的作用范圍很有限只在客戶端獲取引導(dǎo)器的初始階段用到。因?yàn)檫@個階段網(wǎng)絡(luò)棧還很簡單無法承載復(fù)雜協(xié)議所以選用TFTP這種基礎(chǔ)文件傳輸協(xié)議。TFTP默認(rèn)基于UDP 69端口數(shù)據(jù)包小且沒有復(fù)雜的握手和狀態(tài)機(jī)實(shí)現(xiàn)簡化到了極致。協(xié)議的代價是傳輸效率低尤其是默認(rèn)塊大小512字節(jié)時傳一個幾兆字節(jié)的引導(dǎo)文件都會有明顯延遲。解決效率問題有兩個辦法。一是調(diào)整引導(dǎo)器的pxelinux.0加載后的內(nèi)核和解耦文件傳送這是不可避免走TFTP的但引導(dǎo)器本身足夠小。二是讓引導(dǎo)器后期從HTTP獲取內(nèi)核和initrd繞過TFTP的低效率。SYSLINUX系列引導(dǎo)器支持菜單配置里直接用HTTP URL加載內(nèi)核。我生產(chǎn)環(huán)境就是用HTTP承載內(nèi)核和initrdTFTP只保底傳pxelinux.0和菜單文件實(shí)測安裝速度比純TFTP快不少。TFTP配置上不建議用xinetd管理的版本直接安裝獨(dú)立的tftpd-hpa在配置文件中明確指定blocksize 1468乃至更大值減少包往返次數(shù)。同時把超時時間調(diào)大一些否則幾十臺客戶端同時廣播請求時偶發(fā)的瞬時丟包會觸發(fā)重傳超時直接表現(xiàn)為客戶端拿不到菜單。2.3 HTTP安裝源鏡像、倉庫與目錄規(guī)劃PXE引導(dǎo)成功后系統(tǒng)的安裝數(shù)據(jù)就全部從安裝源獲取。安裝源用HTTP承載比用NFS省心得多不依賴特定協(xié)議棧瀏覽器、CIFS、普通抓包工具都能訪問排查也直觀。我通常用nginx作為安裝源服務(wù)器配置非常簡單設(shè)置一個根目錄把各類發(fā)行版的ISO鏡像掛在對應(yīng)子目錄同時目錄結(jié)構(gòu)保持清晰可讀。鏡像的加載方式有兩個選擇直接把整個ISO文件放在磁盤上然后通過loop掛載或者把ISO內(nèi)容解壓到目錄中通過目錄訪問。前者省磁盤空間但每次訪問都需要內(nèi)核處理loop設(shè)備后者浪費(fèi)點(diǎn)空間但訪問效率高、部署直觀。我推薦把ISO解壓到目錄然后軟鏈或nginx alias指向它。需要注意掛載ISO時用mount -o loop解壓時尤其不要遺漏隱藏文件因?yàn)長inux ISO中有些配置文件和校驗(yàn)文件是以點(diǎn)開頭的。HTTP服務(wù)的響應(yīng)速度和并發(fā)也值得關(guān)注。默認(rèn)nginx配置就行不必額外調(diào)優(yōu)。但如果客戶端數(shù)量很大比如同時有幾十上百臺機(jī)器在拉包可以考慮把HTTP的日志級別降低減少磁盤寫日志帶來的性能損耗。還有一點(diǎn)確認(rèn)HTTP服務(wù)對安裝源目錄沒有做目錄列表限制或鑒權(quán)攔截否則安裝程序會在從源讀取元數(shù)據(jù)時報403。2.4 Kickstart無人值守的關(guān)鍵開關(guān)Kickstart是一種自動化應(yīng)答文件安裝程序按它的內(nèi)容自動回答原本必須人工交互的每一項(xiàng)問題。文件包括磁盤分區(qū)方案、文件系統(tǒng)類型、軟件包列表、語言與鍵盤布局、時區(qū)、root密碼、網(wǎng)絡(luò)配置、安全策略、以及首次啟動要執(zhí)行的腳本。這個文件是整個PXE方案里最能體現(xiàn)設(shè)計水平的地方。一份好的Kickstart文件應(yīng)該把“通用的安裝邏輯”和“每臺機(jī)器的差異項(xiàng)”分開。通用的部分比如基礎(chǔ)軟件包組、分區(qū)模板、時區(qū)、語言統(tǒng)一寫在ks文件里。有差異的地方比如主機(jī)名、IP地址、部分服務(wù)開關(guān)通過引導(dǎo)參數(shù)傳遞再用%pre腳本動態(tài)處理。這樣一套配置文件就能管住一個機(jī)房的環(huán)境而不是為每種硬件規(guī)格寫一份單獨(dú)的ks。分區(qū)方案建議采用LVM預(yù)留足夠的/home或/data空間給業(yè)務(wù)數(shù)據(jù)/boot獨(dú)立出來swap大小按物理內(nèi)存的1到2倍規(guī)劃。對于服務(wù)器場景根分區(qū)容量可以適當(dāng)給足后續(xù)擴(kuò)容少折騰。軟件包選擇上用最小化安裝加必要工具組寧可裝少了后期再補(bǔ)也別一上來把整組圖形化都裝上。2.5 網(wǎng)絡(luò)規(guī)劃與安全邊界PXE依賴網(wǎng)絡(luò)的程度比日常運(yùn)維高一個量級對網(wǎng)絡(luò)環(huán)境的要求也苛刻一些。首先是交換機(jī)端口客戶端機(jī)器所在的交換機(jī)下聯(lián)口不建議開啟端口隔離或個別準(zhǔn)入策略至少要讓DHCP Discover、TFTP客戶端請求、HTTP請求都能順利穿過。其次是VLAN劃分管理網(wǎng)段和業(yè)務(wù)網(wǎng)段分開PXE服務(wù)只監(jiān)聽管理網(wǎng)段避免誤用DHCP干擾業(yè)務(wù)地址池。最后是網(wǎng)關(guān)和廣播域DHCP Discover是廣播報文客戶端和服務(wù)器必須在同一個二層廣播域里跨三層就需要配置DHCP中繼代理。安全方面TFTP默認(rèn)不限制訪問目錄建議在TFTP目錄內(nèi)部做好讀寫權(quán)限控制只開放必要的子目錄。HTTP服務(wù)如果沒有特殊需求不建議直接綁定到公網(wǎng)網(wǎng)口。PXE環(huán)境如果可能接觸不受信任的客戶端考慮在DHCP服務(wù)中啟用動態(tài)分配合約或IP/MAC綁定保證只有已知的客戶端才能獲得引導(dǎo)資格。3. 實(shí)操全流程從零搭建一套可用的PXE環(huán)境3.1 準(zhǔn)備工作與基礎(chǔ)環(huán)境初始化我以一套Rocky Linux 9服務(wù)器作為控制端客戶端統(tǒng)一安裝同版本系統(tǒng)為例??刂品?wù)器的IP規(guī)劃為192.168.110.10客戶端網(wǎng)段192.168.110.0/24。數(shù)據(jù)庫術(shù)語上我們稱這臺服務(wù)器為PXE控制器其他所有機(jī)器都作為PXE客戶端。開始之前先把本機(jī)系統(tǒng)更新好關(guān)閉或放行對應(yīng)的防火墻端口并安裝所需軟件包。涉及的核心服務(wù)端口有三類DHCP使用UDP 67、TFTP使用UDP 69、HTTP使用TCP 80。如果控制端啟用了防火墻需要提前放行這組端口。同時要確認(rèn)SELinux不會攔截HTTP服務(wù)讀取掛載目錄最簡單的方式是把安裝源目錄的標(biāo)準(zhǔn)上下文手動設(shè)置一下或者臨時調(diào)整SELinux布爾值我建議按目錄標(biāo)準(zhǔn)設(shè)定上下文而不是直接關(guān)閉SELinux。# 安裝所需軟件包 dnf install -y dhcp-server tftp-server syslinux-tftpboot nginx3.2 DHCP配置明確引導(dǎo)入口編輯/etc/dhcp/dhcpd.conf定義子網(wǎng)和PXE引導(dǎo)參數(shù)。這里核心是next-server和filename兩個選項(xiàng)。一個基礎(chǔ)配置模板如下subnet 192.168.110.0 netmask 255.255.255.0 { range 192.168.110.100 192.168.110.200; option routers 192.168.110.1; option domain-name-servers 192.168.110.10; option subnet-mask 255.255.255.0; next-server 192.168.110.10; filename pxelinux.0; default-lease-time 3600; max-lease-time 7200; }next-server告訴你TFTP服務(wù)器在哪里filename告訴該取什么引導(dǎo)文件。配置好之后啟動服務(wù)并檢查日志確認(rèn)沒有語法錯誤。有一點(diǎn)我后來又改進(jìn)了公司內(nèi)部有多個網(wǎng)段PXE客戶端跨越了VLAN這就需要在每個VLAN的網(wǎng)關(guān)設(shè)備上配置DHCP中繼或者用DHCP服務(wù)端同時監(jiān)聽多個子網(wǎng)有條件可以配置基于端口的動態(tài)分配。3.3 TFTP引導(dǎo)環(huán)境放置引導(dǎo)器和菜單安裝syslinux-tftpboot后把pxelinux.0、菜單模塊、內(nèi)核和解耦文件放到TFTP根目錄。這里的常規(guī)TFTP根目錄是/var/lib/tftpboot實(shí)際路徑看發(fā)行版差異。拷貝引導(dǎo)器cp /usr/share/syslinux/pxelinux.0 /var/lib/tftpboot/ mkdir -p /var/lib/tftpboot/pxelinux.cfg創(chuàng)建/var/lib/tftpboot/pxelinux.cfg/default作為默認(rèn)引導(dǎo)菜單。我先讓客戶端啟動到安裝程序所有具體的鏡像選擇都放在這個菜單里。默認(rèn)菜單內(nèi)容如下DEFAULT menu.c32 PROMPT 0 MENU TITLE PXE Boot Menu TIMEOUT 100 LABEL linux MENU LABEL Install Rocky Linux 9 x86_64 KERNEL images/rocky9/vmlinuz APPEND initrdimages/rocky9/initrd.img kshttp://192.168.110.10/ks/ks.cfg這段配置里KERNEL指向內(nèi)核文件在TFTP根下的相對路徑APPEND里的initrd參數(shù)告訴引導(dǎo)器加載哪個解耦文件ks參數(shù)用HTTP URL指定Kickstart文件位置。注意如果使用UEFI引導(dǎo)環(huán)境圖形化菜單模塊選用menu.c32可能不生效需要根據(jù)啟動模式針對性配置。TFTP根目錄、權(quán)限和SELinux上下文都要配套。TFTP服務(wù)默認(rèn)對目錄有讀取權(quán)限要求如果用tftp-hpa默認(rèn)用戶是tftp需要保證引導(dǎo)文件對tftp用戶可讀使用chmod 644即可。如果啟用了SELinuxtftp服務(wù)有對應(yīng)的布爾值開關(guān)我因?yàn)閳D省事踩過一整晚的坑最后是檢查/var/log/messages才定位到SELinux攔截了TFTP讀取。3.4 HTTP安裝源掛載ISO并配置訪問安裝源放在nginx目錄下。先把ISO鏡像拷貝到控制服務(wù)器或者直接掛載然后創(chuàng)建軟鏈接指向解壓目錄。我的做法是統(tǒng)一放在/data/pxe/iso每個鏡像一個目錄同時給客戶端訪問路徑以簡潔的URL展示。mkdir -p /data/pxe/iso mount -o loop rocky9.iso /mnt/rocky9 cp -a /mnt/rocky9/. /data/pxe/iso/rocky9/nginx配置指向這個目錄server { listen 80 default_server; root /data/pxe/iso; autoindex on; }autoindex on是必要的雖然Kickstart不一定需要目錄列表但調(diào)試時可以先用瀏覽器訪問目錄確認(rèn)鏡像文件是否完整可見。安裝時安裝程序會訪問repodata目錄抓取軟件包元數(shù)據(jù)所以目錄里必須有這個文件如果ISO拷貝不完整經(jīng)常會在安裝進(jìn)度走到一半時報倉庫加載失敗。3.5 Kickstart應(yīng)答文件編寫兼顧通用與個性Kickstart文件放在HTTP服務(wù)下路徑/ks/ks.cfg對應(yīng)磁盤路徑/data/pxe/ks/。下面這個腳本是適應(yīng)多機(jī)器的通用模板已在多臺物理機(jī)上跑通過。# 版式Kickstart 格式 install url --urlhttp://192.168.110.10/rocky9/ lang en_US.UTF-8 keyboard us timezone Asia/Shanghai rootpw --iscrypted $6$... authconfig --enableshadow --passalgosha512 selinux --enforcing firewall --disabled firstboot --disable # 磁盤與引導(dǎo)配置 zerombr clearpart --all --initlabel part /boot --fstypexfs --size1024 part pv.01 --size1 --grow volgroup vg0 pv.01 logvol / --fstypexfs --nameroot --vgnamevg0 --size40960 logvol swap --fstypeswap --nameswap --vgnamevg0 --size4096 logvol /data --fstypexfs --namedata --vgnamevg0 --size1 --grow # 軟件包配置 %packages core vim wget %end # 首次啟動自定義 %post --log/root/pxe-post.log echo PXE install completed /root/pxe-post.log %end這個文件的關(guān)鍵在于分區(qū)策略和軟件包配置。分區(qū)統(tǒng)一走LVM后續(xù)擴(kuò)展不再需要停機(jī)調(diào)整物理分區(qū)。%post腳本用于安裝完成后做定制操作比如寫主機(jī)名、配置SSH key、添加用戶等。我是習(xí)慣在%post里通過讀取DHCP的hostname或預(yù)設(shè)參數(shù)來生成每臺機(jī)器的主機(jī)名這樣就不需要每臺機(jī)器手工改主機(jī)名了。第一段代碼里的root密碼以密文形式存放。生成方法可以用openssl passwd -6或者grub-crypt絕對不要寫明文密碼。整個Kickstart文件在HTTP目錄中時確認(rèn)權(quán)限盡量收緊比如只用root可讀寫但如果需要遠(yuǎn)程修改也可以另設(shè)專用賬號。3.6 客戶端啟動驗(yàn)證與參數(shù)傳遞技巧配置全部就位后在一臺測試機(jī)上將其啟動方式設(shè)置為網(wǎng)絡(luò)啟動開始觀察安裝流程。理想情況下控制臺會依次出現(xiàn)PXE準(zhǔn)備階段、引導(dǎo)菜單、內(nèi)核加載、安裝程序初始化然后進(jìn)入無人值守安裝。全程大約10分鐘期間不需要任何人工干預(yù)。如果希望客戶端能自動區(qū)分不同主機(jī)名或不同分區(qū)配置可以使用Kickstart里的%pre腳本配合引導(dǎo)參數(shù)實(shí)現(xiàn)。引導(dǎo)器APPEND里可以帶自定義參數(shù)比如hostnameweb01然后在%pre中解析這些參數(shù)并寫入對應(yīng)配置文件。這種方式比客戶端都讀同一個模塊更靈活也方便和資產(chǎn)管理平臺打通。%pre --log/tmp/ks-pre.log hostname$(find /proc/cmdline -o -print | grep hostname | cut -d -f2) echo $hostname /etc/hostname %end還有一個小技巧是把menu.c32作為默認(rèn)引導(dǎo)菜單同時鍵盤快捷鍵可以快速進(jìn)入shell方便調(diào)試。實(shí)際使用中我在APPEND里經(jīng)常額外加一個ipdhcp參數(shù)確保安裝程序正確獲取網(wǎng)絡(luò)配置避免因?yàn)榫W(wǎng)卡名混亂導(dǎo)致連不上安裝源。4. 常見問題與排查技巧實(shí)錄4.1 客戶端卡在“PXE-E51: No DHCP or proxyDHCP offers”這個報錯說明DHCP階段就沒通。排查順序很明確看看DHCP服務(wù)是否在跑監(jiān)聽端口是否是67確認(rèn)客戶端和服務(wù)器在同一二層網(wǎng)絡(luò)檢查防火墻是否丟棄了UDP 67報文。如果服務(wù)正常再用tcpdump在服務(wù)器側(cè)抓包觀察DHCP Discover是否能收到。這類問題九成是網(wǎng)絡(luò)隔離或服務(wù)監(jiān)聽錯了接口。4.2 客戶端能拿到IP但TFTP下載引導(dǎo)文件超時此時DHCP已經(jīng)成功問題出在引導(dǎo)文件獲取階段。常見原因包括TFTP服務(wù)器沒放行UDP 69端口、pxelinux.0文件不存在、或文件權(quán)限不對。另外一個很容易忽略的是filename里如果寫了路徑比如filename pxelinux.0TFTP服務(wù)會把它當(dāng)作相對路徑拼接在根目錄之后路徑寫錯會直接404。建議先用tftp命令行手動測試一遍文件下載能手動下載成功再談客戶端引導(dǎo)。tftp 192.168.110.10 -c get pxelinux.04.3 引導(dǎo)菜單正常顯示但內(nèi)核啟動后黑屏或Kernel Panic這類問題一般和引導(dǎo)參數(shù)有關(guān)。最常見的是APPEND里沒有指定正確initrd或者vmlinuz和initrd.img與系統(tǒng)架構(gòu)不匹配。另一個常見坑是UEFI機(jī)器加載了BIOS版引導(dǎo)文件導(dǎo)致啟動協(xié)議不符。當(dāng)前架構(gòu)統(tǒng)一使用UEFI引導(dǎo)我配置時都會放兩套引導(dǎo)文件按啟動模式提供不同文件名從一開始避免混用。4.4 安裝程序已啟動但在獲取倉庫或安裝軟件包階段失敗安裝程序能跑起來說明引導(dǎo)鏈路OK之后的失敗通常都和HTTP源有關(guān)。建議先訪問http://192.168.110.10確認(rèn)目錄列表能看到ISO內(nèi)容。如果目錄能打開但安裝報404請看Kickstart里url --url寫的具體路徑是否與nginx目錄的alias或軟鏈路徑對應(yīng)。還有一個容易踩的坑如果通過mount -o loop臨時掛載ISO服務(wù)器一重啟掛載點(diǎn)就消失。我的建議是把ISO解壓到目錄后長期保留避免循環(huán)掛載依賴進(jìn)程狀態(tài)。4.5 Kickstart文件無法讀取如果引導(dǎo)器能找到kshttp://...但安裝程序提示解析錯誤或訪問失敗先用瀏覽器或curl確認(rèn)該URL可以正常返回內(nèi)容再檢查文件格式。Kickstart文件其實(shí)對行尾和編碼有要求Windows下編輯過再傳到服務(wù)器很容易栽在回車符差異上。另一個隱蔽的問題是文件中出現(xiàn)空行、注釋錯位或者使用了不支持的指令建議安裝前用ksvalidator做一次語法驗(yàn)證能省去大量現(xiàn)場調(diào)試時間。4.6 大規(guī)模并發(fā)安裝時的延時與資源瓶頸同時引導(dǎo)幾十臺客戶端時DHCP、TFTP、HTTP三個服務(wù)都可能成為瓶頸。DHCP層面可以把default-lease-time縮短讓地址盡早釋放TFTP層面引導(dǎo)器文件本身傳輸盡力減小必要時僅傳輸引導(dǎo)器內(nèi)核和initrd走HTTPHTTP層面建議把所有安裝源目錄的冗余日志級別關(guān)閉同時nginx開啟sendfile和aio并考慮采用proxy_cache做倉庫包緩存。實(shí)測中同樣的配置優(yōu)化HTTP路徑后并發(fā)20臺以上也能穩(wěn)定交付。4.7 安裝完成后首次啟動進(jìn)不了系統(tǒng)這類問題多出在引導(dǎo)加載器安裝和分區(qū)設(shè)計上。如果/boot分區(qū)存在但內(nèi)核沒寫入引導(dǎo)項(xiàng)檢查Kickstart里是否包含bootloader --locationmbr或UEFI相關(guān)參數(shù)。此外部分機(jī)器因固件原因在PXE安裝后還保留PXE啟動順序?qū)е轮貑⒂只氐骄W(wǎng)絡(luò)啟動菜單。處理辦法是在Kickstart%post階段寫一段腳本將啟動順序調(diào)整為本機(jī)磁盤優(yōu)先或者依靠UEFI的引導(dǎo)管理器設(shè)置。5. 擴(kuò)展場景與現(xiàn)實(shí)經(jīng)驗(yàn)PXE不止能裝單機(jī)系統(tǒng)稍微擴(kuò)展一下邏輯就能覆蓋多種運(yùn)維場景。比如配合模板鏡像可以用PXE引導(dǎo)一個內(nèi)存系統(tǒng)然后在內(nèi)存系統(tǒng)里執(zhí)行克隆、備份或抽檢硬件固件信息再比如把Kickstart文件里的軟件包列表換成某一業(yè)務(wù)組的常用軟件集合就相當(dāng)于批量交付了統(tǒng)一基線還能和監(jiān)控平臺打通讓安裝完成后的系統(tǒng)第一時間自動上報到CMDB。我在實(shí)際落地中還總結(jié)了一條經(jīng)驗(yàn)PXE的搭建代碼相對固定難的不是寫配置而是對網(wǎng)絡(luò)細(xì)節(jié)的理解和異常處理。每次導(dǎo)入一批新機(jī)型我都會先拿一臺樣機(jī)完整跑一遍安裝觀察日志里是否有新硬件導(dǎo)致的異常再決定是否批量執(zhí)行。如果機(jī)器網(wǎng)卡型號較新引導(dǎo)階段可能還需要嵌入廠商網(wǎng)卡驅(qū)動否則會出現(xiàn)內(nèi)核無法識別網(wǎng)卡而無法進(jìn)入安裝程序的怪問題。后來說個非常實(shí)用的小技巧建議把控制服務(wù)器上的配置做版本管理至少對dhcpd.conf、nginx配置和Kickstart腳本打上git標(biāo)簽。出現(xiàn)配置回退時幾秒鐘就能恢復(fù)。做PXE的樂趣就在于前期配置雖然瑣碎但換來的是一勞永逸的交付能力這種投入非常值得。祝各位順利跑通自己的PXE鏈路。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
97久久人人| 一级性感黄色内射视频| 91欧美| 日本婷婷综合精品| 99爱99操| 日韩五月婷婷| 伊人激情AV一区二区三区| 伊人影院久久网| AV在线大香蕉| www.99热视频| 最近免费中文字幕大全高清大全1| 天天综合网、天天综合色| 日日影院 | 人人干av| 天堂草在线观| 国产日批视频| 第2色五月婷| WWW.五月com| 色婷婷色99国产综合精品| 五月天精品视频| 99碰网站| 色婷婷影| 久久精品五月| 久久密臀婷婷| 91久久国产自产拍夜夜91久久精品文字>91麻豆精品国产 | 色综合99无码| 激情四射五月天| 天天摸天天透天天舔| 五月激情四射婷婷丁香| 婷婷六月色| 久婷自拍视频| 色噜久| 五月天啪啪视频| 日日狠狠久久偷偷四色综合免费| 亚洲综合色丁香五月天| 综合激情五月丁香| 成人.在线日韩| 99热亚洲精品| 97色啪| 深爱五月最新网址| 天天搽天天射| 99re这里只有精品免费| 99热久只有| 人妻综合网| 99re青青草| 色五月婷婷成人| 人人爱操| 91啪啪| 天天爽天天摸天天爱| 日韩一66精品| 亚洲九九九九| 天天舔天天摸天天透| www.狠狠色.com| 五月婷婷激情综合在线| 99热这里只有精品国产免费| 人人射av| 人人人舔人人人操人人人摸人人人97| 天天狠狠色综合| 九九精品网站| 婷婷丁香五月天欧美| 丁香五月天激情婷婷丁香六月| 99ri精品| 婷婷国产日本欧美| 五月婷婷欲色| 婷婷丁香社区| 丁香五月激情棕合| site:901-07.com| 日韩一级A片黄色| 婷婷射图| 思思99精品视频在线观看| 久久综合激情五月天| 伊人五月天在线| 99re免费精品视频| 啪啪91| 精品人妻伦一二三区久久| 日日干天天| 99热都是精品| 2018夜夜草| 精品欧美一区二区三区久久久| 香蕉AV777XXX色综合一区| 日本人妻A片成人免费看片| 色婷婷五月天| 婷婷97C| 99热很操老逼| 婷婷综合欧美| www久热com| 五月天亭亭俺也| 五月丁香婷婷免费视频| 能看的av网站| 七七久久综合| 婷婷色色五月天| 丁香婷婷丁香五月欧美人| 五月天婷婷激情小说电影| 欧美 日韩 成人 在线| 综合婷婷久久| 久久五月婷综合| 一起操 91N.com| 中文AV在线观看| 在线中文字幕av| 天天舔天天插天天爱| 婷婷五月天综合网| 五月婷婷人妻| 婷婷六月综合激情| 亚洲视频码| 久久精品99久久久久久| 6080av| 激情内射p| 91婷婷搞| 婷婷久久色五月婷婷久久久| WWW.久久久久久久久久久久久| 97干婷婷| 六月婷婷网站| 亚洲1区| 另类在线免费视频| 婷婷五月天成人| 日韩六六久久电影| 欧美日韩99| 亚洲综合五月天| 天堂婷婷综合| 精品婷婷| 亚洲视频色婷婷| 九九日本视频| 五月婷视频| 另类小说色婷婷| 1024欧美看片| 激情婷婷丁香色五月综合| 色噜噜狠狠插综合| 99精品视频在线观看| www.91AV.COM| 亚洲人妻一区二区| 天天色天天操天天射| 99精品这里只有免费视频| 久久天堂女人| 婷婷丁香五月精品| 色噜噜综合网| 狠狠色综合无线观看| 亚洲人妻av| cc精品国产性传播| 99婷婷狠狠成为人免费视频| 色婷婷五月开心六月综合| 成人做爰A片免费看视频| 99riAV成人在线视频| 亚洲高清在线| 粉嫩av蜜桃av蜜臀av| 国av网| 婷婷五月天Av| 久久综合久色欧美综合狠狠| 国产成人99久久亚洲综合精品| 五月婷婷大香蕉| 亚洲在线成人| 97激情五月天| 少妇性按摩无码中文A片| 九九青草热| 热这里| 激情六月婷婷| www.久久| 五月婷婷激情五月| 色婷婷丁香五月高清在线| 丁香五月中文字幕久色| 91jiuseshunv| 色综合久久88色综合天天99| 亚洲AV免费在线| 97干在线播放| 婷婷丁香社区网| 亚洲99在线| 办公室少妇激情呻吟A片在线观看 白人荫道BBWBBB大荫道 | 日日日,com| 99自拍视频网站| 六月丁香啪| 热99热9| 搡BBBB搡BBB搡18| 天天日综合网射| 99在线69| 黄色99视频| 婷婷色五月色| 亚洲成人AV在线| 天天爽夜夜爽天天爽夜夜爽| 国模狼狼| 婷婷激情视频欧美视频自拍视频欧美剧| 99热国内| 免费看成人AA片无码视频吃奶| 超碰93在线观看| 噜噜吧天天爱| 精典久久| 九九久久网| 久久东京热婷婷五月| 丁香六月激情四射| 色婷婷99| 色色综合五月| 这里只有精品免费观看网占| 久久婷婷五月丁香网| 婷婷久月| 性生活久久朋友人妻| 99热这里只有精品2024| 少妇人妻丰满做爰XXX| 777久久综合视频| 婷婷亚洲综合| 一本综合丁香日日狠狠色| av在线播放网站| 操一操| 丁香五月婷婷香| 99精品福利视频| 97日日碰碰| 丁香五月婷婷天| 九九色黄色| 亚洲激情另类| 18av天堂| 97色射| 91精品久久久久久综合五月天| 精品一区二区三区三区| 99久久综合网| 色婷婷XXXXX| 国产国产乱老熟女视频网站97| 亚洲成人电影aaaa| 9精品视频在线| 亚洲第一成人无码A片| 丁香五月性爱| 九九久久9 9在线观看| 超级碰碰一区| 97视频久久| 色五月激情综合网站| 久久与婷婷| 婷婷天天舔| 热久69| 日韩在线一级| 国产精品噜噜在线视频| 色婷婷导航| 婷久久| 五月激情网站| 婷婷激情五月综合丁| www.AV在线| 色99视频| 色五月婷婷九月| 色婷婷香蕉| 4399无码视频| 五月丁香免费视频| 久久色这里只有精品| www.韩日视频| 六月丁丁香| 国产婷婷五月天| 天堂久久婷婷| www.夜夜爱.com| 婷婷六月激情| 色色亚洲| 天天综合网亚洲网站| 天天爱天天做天天日| 密视AV综合在线| av国产精品| 久9无码视频| 色情五月丁香婷婷网| 综合另类激情| 久青草影院| 日日夜夜狠狠| 天天操天天草天天草天天| 综合激情在线视频| 大香蕉520| 79成人网| 五月婷婷深爱六月| 精品久久久久久久人妻| 免費亭亭成人| 只有久久精品免费| 五月激情婷婷六月| 精品久久人妻| 婷婷五月综合体验看| 99re视频精品| 五月天天丁香婷婷| 色婷婷影视| 丁香五月亚综合图片| 婷婷丁香五月天影院| 婷婷五月天97干| 99热99在线| 四虎成人精品永久免费AV九九| 色婷婷狠狠干芒果TV| 五月情四婷婷| 五月色欧洲| 九九视频网| 人妻第九页| 久久五月天婷婷| 蜜桃人妻无码AV天堂三区| 国精产品一区一区三区免费视频| 99色免费在线观看| 久久婷色| 香蕉AV777XXX色综合一区| 第五色色色婷婷| ...婷婷国产成人亚洲日韩| 只有精品视频在线观看| 99热国产这里只有| 草婷婷在线| 综合性视频99| 另类激情网| 五月天激情.com| 五月天婷婷五月| 精品人妻久久久| 99精品在| 激情深爱五月| 色99自拍| 丁香六月婷婷综合| 色爆五月| 极品九九九九九九| 欧美六月| 丁香五月婷婷六月婷| 国产日批视频| 天天爽日日爽夜夜爽| 五月婷精品| 这里只有精品免费视频| 中美日韩成人在线| www.久久| 婷婷九月久久| 亚洲综合无码| 丁香五月天殴美激情| 亚洲麻豆乱码国产2028| 亚洲人妻电影| 色五月婷婷久久| 色噜噜在线| 蜜桃五月天| 丁香五月天啪啪| 激情淫乱男女| 丁香激激情网| 欧美色色色色色色色| 丁香激情五月少妇| 国产精品久久久99视频| 热久久精品视频网站| 一级性爱视频| 日本丁香五月| 久9草在线观看视频| 九九精彩久久| 丁香狠狠| 婷婷五月色| 婷婷五月天av| 久热99中文字幕| 无码橾| 婷婷色女| 亚洲无码色色| 天堂成人A片永久免费网站| 成人小说色图婷婷五月| 综合亚洲六月婷婷在线| 色婷婷五月天不卡| 丁香六月激情综合| 六月激情网| 天天插天天狠| 色色色色色网| 婷婷香草网| 久一网站| 人人看人人摸人人| 九九热99热| 国产免费一区二区三州老师F1…… | 99久久66综合| 婷婷激情五月| 丁香色五月 97干| 色综合久久天天综合网| 激情五月天 婷婷| 中文字幕不卡+婷婷五月| 97人人妻人人艹| 欧美日韩精品一区二区三区钱| 丁香六月天婷婷色| 五月婷婷狠天天色综合| 亚洲精品欧洲精品| 天天久综合| 五月丁香六月婷| 琪琪色五月婷婷老师| 婷婷成人AV| 婷婷深爱五月天在线| 婷婷玖玖五月天| 久久综合99综合| 91无码视频| 思思热国产| 五月天.com| xxxx五月天色色| 免费日韩99| 久久丁香五月| 5五月综合网亚洲| 天天噜天天爱| 丁香五月激情综合| 婷婷色影院| 天天干天天日天天操| 国产精产国品一二三在观看| 狠狠做五月| 婷婷娌伦网| 五月婷婷先锋| 丁香五月第四色88| 欧美顶级少妇做爰HD| 91一起操| 精品人人操| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 免费超碰在线观看| 丁香久色| 99热精品在线| 操操操www.com| 丁香五月激情啪| 99热久久日本| 五月激情小说网| 久久九九激情五月天| 久久五月丁香伊人青草| 丁香五月在线观看| 久久XX| 操人久久| 色碰干| 狠狠操狠狠| 五月天堂六月丁香亚州中文字幕久久| 五月综合缴情网| 国产精品久久久久9999小说 | 亚洲综合另类| 久久久性爱视频| 97超碰在线免费观看| 五月天四色房丁香亭亭| 在线看av| 婷婷色五月激情强奸四射| 色站9/| 五月草视频| 激情婷婷护士激情| 人人色婷婷| 91视频久久久| www.色综合.com| 高清视频一区| 久久五月婷| 99热在这里只有免费精品| 激情五月天影院| 美女va| 99操| 色5月婷婷| 丁香五月欧美婷婷| 天天干天天干天天干| wWW九九在线播放| 91人人操.COM| 欧洲亚洲最新精品| 色婷婷丁香女女| www一区二区三区| 九九热青青草| 999热在线视频| 欧美日本VA| 99热欧美| 色99热| 亚洲综合另类| 五月婷丁香| 热热久久久久久久久| 婷婷五月激情四射手| 丁香五月婷婷色播艳门照| 五月丁香激情综合网官网| 日本高清综合网五月丁香| 超碰爱爱爱| 亭亭色色五月天| 思思99热热热99| 日韩一区二区A片免费观看| 丁香五月激情无码视频| 色婷婷久久天天性爱| 深爱激情丁香| 婷婷亚洲在线| 久久久91| 这里只有精品96| 亚洲五月天激情| 成人精品在线| 99se丁香| 99热精品在线播放| 夜夜操天天爽| 婷婷激情五月| 婷婷丁香色女人| 五月天久久综合| 色爱综合视频| 碰碰操91| 国产肥白大熟妇BBBB视频| 综合激情视频| 五月激情婷婷开心五月| 欧美日韩五月婷婷| 国产精品人成A片一区二区| 99热这里只有精品最新网址| 99热精品在线观看| 69久热| 99热97| 久久免费视频62| 男女99免费视频| 九色在线五月婷婷网址| 久久久激情| 五月婷久久在线| 久久激情五月婷婷| 91在线人| 97精品人人A片免费看| 五月丁香欧美综合| 97操碰人免费| 色噜噜婷婷| 五月丁香婷婷免费视频| 91dy.av| 五月婷婷色影院| 亚洲久久天堂| 91丨九色丨东北熟女| 欧美成人色婷婷| 婷婷激情综合无月| 色情五月丁香| 久久久欧美精品sm网站| 在线播放 精品| 深爱五月激情| AV在线观看网站| 天天日天天日天天搞| 婷婷五月激情四月综合| 99热综合在线| 大香蕉狠狠爱主页| 婷婷色狠狠| 亚洲五月天激情| www.精品99| 五月丁香综合激情网| 激情五月婷婷色综合| 中文字幕在线播放视频| 激情视频91| 69人人操人人爽| 亚洲无AV在线中文字幕 | 在线只有精品| 另类激情中文| 综合激情婷婷| 99热综合网| 5月婷婷6月六月丁香| 热99re| 激情com| 日韩欧美五月丁综合| 久久九九@| 97爱综合| 啪啪东京热| 五月婷婷黄网站大全| 亚洲精品字幕| 极品人妻VIDEOSSS人妻| 97热91| 丁香五月天堂网| 天天综合在线网| yellow视频在线观看91| 在线观看欧美| 亚洲九区| 狠狠狠狠狠狠狠狠| 五月婷婷丁香| 久久五月综合| 亚洲国产精品VA在线看黑人| 无码激情AAAAA片-区区| 欧洲MV日韩MV国产| 激情六月婷婷啪啪| 香蕉色色网| 99超级超级超级碰| 激情图片婷婷丁香五月| 亚洲网站999| 狠狠色噜噜狠狠| www91在线| 五月丁香黄色| 亚洲欧洲另类| 五月丁香久久综合| 插插五月天| 天天插天天| 五月婷婷开心六月激情小说| 色婷婷五月天天天干天天操天天爽| 蜜臀九九九九| 丁香六月伊人| 亚洲成人网站在线播放| 91久久久久久| 疯狂做受XXXX高潮A片| 国产AV国片偷人妻麻豆| 97碰碰免费.视频| 婷婷狠狠狠爱| 99性视频| 午夜性做爰电影| 99燥99日| 日本99视频精品免费播放| 五月天婷婷基地综合网| 丁香五月六月久久综合 | 五月婷婷色欲| 久热婷婷在线视频| 91丨九色丨大屁股| 激情五月亚洲综合网| 久久小片| 综合婷婷| 久久大国产香蕉| 婷婷伊人视婷婷婷| 2015好吊操| 天天色天天噜| 婷婷刺激综合| 六月色婷婷| 99惹 精品在线| 九九色院| 婷婷五月天成人动漫 | 怕怕av| 婷婷五月图片小说网| 婷婷激情在线| 国产精产国品一二三在观看 | 天天干com| 91色综合网| 大地9中文在线观看免费高清| 十二区无码| 狠狠人妻色综合| 天天激情夜夜干| 综合图片色色| 8090在线影视少妇| 色欲久久久久久综合网综合网| VA婷婷| 丁香六月色婷婷| 五月丁香综合激情| 潮汕成人AV片在线| 麻豆科斗777| 久草五月天| 婷婷99狠狠| 91精品综合久久久久久五月天| 99久热在线精品| 啪啪操操| 婷婷色香六月综合激情| 欧美婷婷丁香五月社区| 91在线资源| 丁香五月精品视频| 婷婷色片| 国产av网| 高清激情av在线观看| 色五月婷婷五月天| 伊人久久婷婷五月综合97色| 人妻操逼视频。| 亚洲a色| 少妇性按摩无码中文A片| 大香蕉九九操| 久久久五月四色| 色婷婷丁香| 激情图片婷婷| 99国产视频网| 婷婷欠久少妇| 亚洲综合新99视频| 9+1视频网址| 97干在线看| 五月天在线视频尤物视频在线看| 久久婷婷伊人| 中文字幕成人| 色婷六月| 視频福利乱色| 六月丁香社区| 九九热视频精品999| 99热思思在线观看| 婷婷深爱五月天| 九九这里是免费的视频5| 夜夜干天天干| 国产特黄色精品一区二区三区精品无广告| 日日噜噜久久婷婷五月天| 99久久九九| 久久综合中文字幕| 99精品热| 日韩久综合| 99久久玖玖| 91黄色五月天视频| 99re这里有精品手机在线| 狠狠综合| 婷婷五月天777| 久99| 亚洲激情网站无码| 久久五月婷| 黄色aaaaa| 97福利视频| 影音先锋一区| 久操婷婷| 激情五月深爱五月观看| 人妻少妇色综合| 婷婷在线播放av| 久久机热/这里只有精品| www.99在线| 欧美内射AA| 91精品久久久久久| 九九热在线视频观看| 大香蕉综合| 亚洲操b| 99热99网| 欧美性猛交AAAA片黑人 | 都市激情五月婷婷综合| 91人人人人人| 操日挥操日日| 国内久久亭亭| 婷婷九月丁香| 伊人大香五月天| 亚洲日本韩国| 婷婷五月天美女视频| 九色视频入口91| 很很干天天干| 97碰久久| 99热在线观看| 永久AⅤ1| 91九色大屁股| 色欲一区二区三区精品A片| 日韩欧美一区二区三区四区| 99热个人在线| 日韩无码色色| 综合色五月| 五月婷婷啪啪| 五月丁香欧美在线| 夜色综合网| 色色网站| 这里只有九九精品| 丁香六月婷婷色播| 99热这里只有精品中文字幕| 激情校园 亚洲| 无语停婷丁香网| 久热69| 国庆精品久久| 996黄色片| 情色五月天网站| A√天堂网在线| 天天色五月婷婷91久久久久久久| 婷婷五月综合久久中文字幕| 激情丁香五月婷| 丁香啪啪中文字幕| 日本一级黄色电影| 色狠狠色狠狠| 超碰9| 国产偷人爽久久久久久老妇APP| 欧美色爱五月天| 五月激情综合网| 男女啪啪做爰高潮无遮挡| 综合激情视频| 五月丁香色色综合| 久久五月情| 天天拍天天操| 狠狠草狠狠草| 99精品这里只有免费视频| 99re在线免费视频| 五月天激情四射| 五月婷婷,六月丁香| 色婷婷影院| 日韩有码一区| 丁香六月啪| 激情五月天综合婷婷网| 婷婷久久久久久久| 久久久欧美精品sm网站| 乱乱av| 五月天婷婷av| 色色色图| 天天日夜夜草进麻麻的子宫| 99riAv1国产在线观看| 91 九色大美女| 色婷| www天天色天天射| 激情五月婷婷欧美极品| 五月婷婷中文字幕| 久9草在线观看视频| 天天射影院| 国产精品国产| 激情五月少妇| 天天做天天爰天天爽天天无遮挡| 久久婷婷五月综合激情国产| 久久受www免费人成| 天天干天天干天天操| 婷婷深爱五月| 色综合综合网| 2023天天日夜夜爽| 高清无码.com| 午夜成人AV在线| 99久久高清视频| 久久综合99综合| 天天爱天天做天天操| 伊人五月天| 九九综合久久| wwwxxx五月婷婷小说| 激情综合五月激情17| 久热69| 综合日本婷婷| 丁香五月伊人| 五月婷三级片| 97精品人人A片免费看| 亚洲1区| 激情AV在线| 色婷婷狠狠| 另类综合婷婷五月天欧美视频| 少妇婷婷五月天| 国产色丁香| 91碰碰碰| 色婷婷狠狠| 五月激情综合网| 色欲九区| AV在线中文| 26uuu精品一区二区| 亚洲熟女乱色综合亚洲网站| 婷婷久久18| 五月香蕉网| WWW.久久久久久久久久久久久| 亚州欧美黄色电影| 超91热| 97日本操| 国产女人十八水真多1| 国产女18毛片多18精品| 超碰国产一区| 亚洲av成人一区二区电影在线| 婷婷五月丁香基| 婷婷综合中文字幕| 超碰人人插| 婷婷综合国产| 久久久九九九 99| 久久九九亚洲| 久婷婷五月天影院| 日韩久热| 五月天激情综合网俺也去| 99小视频在线| 亚洲精品欧洲精品| 婷婷色五月久久| 99热的无码| 五月天综合婷婷| 天天干夜夜谢| 91色逼| 91丨九色丨熟女高潮| 激情五月天婷婷| 做爰丰满少妇1313| 无码字幕中文| 另类国产区| 熟女激情网| 另类色视频| 五月五丁香婷婷| 啄木鸟丝袜美女福利视频| 五月丁香婷婷AV| 9999三级片| 天天插天天射| 91妻人人爽人人看片| 五月综合激情图片| 成人av播放| 99 频99热国里只有精品| 天天射影视综合网| 欧美这里只有精品| 五月婷婷六月丁香| 97热91| 亚洲婷婷丁香五月| 大香网伊人久久综合| 激情网狠狠干| 裸体美女丁香五月天。| 五月丁香久久综合| 欧美搡BBBBB摔BBBBB| 丁香五月天日韩无码| 久久久久久久久久91| 伍月婷丁香婷| 开心激情网五月| 婷婷成人综合| 成人在线二区| 第五婷婷伊人丁香色| .操區COm| 丁香五月成人社区| 夜夜爽天天爽| 天天综合区| 国产精品人妻欲求不满| 九九婷婷五月天影视| 激情综合激情综合| 狠狠狠狠狠干| 中文字幕性爱视频| 熟女乱论网| 丁香五月六月综合激情| 五月天综合色| 九月大香蕉| 99这里的视频都是精品| 五月丁香六月情| 色婷婷香蕉| 五月丁香视频色色| 色99视| 狠狠狠色激情综合适合| 国产毛片精品一区二区色欲黄A片| 色婷婷啪啪| 99热这里只有精品手机在线观看| 亚洲国产精品VA在线看黑人| 亚洲无AV在线中文字幕| 噜噜色五月| 久久视频九九视频| 日韩中文欧美| 97在线干| 精品一区二区三区木瓜| 日韩精品999| 人人操9| 开心六月婷| 九九成人| 日本综合九九| 激情婷婷五月亚洲| 久99久在线观看| WWW色色色COM| 久久狠色噜噜狠狠狠狠97| AA久久| 色婷婷aV四虎| 国产探花AV在线| 另类激情综合| 九色91视频| 成人精品亚洲性爱| 91狠狠色丁香婷婷综合久久狠丁香综合久久精品 | 亚洲激情六月| 久久伊人日日夜夜| 九九热这里只有精品6| 影音先锋天天日| 天天做天天爱天天玩夜夜爽| 婷婷五月花| 久久五月丁香| 久草五月婷婷| 海外网站专业操老外| 99热99热| 9精品久久999| 五月丁香亭亭成人电影| 婷婷综合久久| 九色PORNY自拍成人精彩视频| 五月天婷婷在线观看| 色五月丁香A欧美com| 激情丁香淫荡婷婷| 色婷婷丁香五月| 91精品久久久久久| 色域五月婷婷丁香| 亚洲狠狠婷婷| 色五月婷婷亚洲最大| 天天干天天操天天拍| 色综色网| 久久这里只有国产精品视频| 在线观看免费视频| 婷婷九月激情| 超碰在线99| 丁香六月AV| 亚洲激情五月| 婷婷五月天激情网址| 九九热这里| 99视频色在线观看| 婷婷五月激情小说| 激情深爱五月婷婷| jiZZdr| 国产亚洲精品人人| 开心激情站| 天天干夜夜操A片| 狠狠色婷婷7777久| 99爱免费在线观看| 日日影院 | 91婷婷五月天综合视频| 激情AV网| 五月天综合影院| 91欧美日韩| 狠狠干在线| 五月丁香激情综合啪啪| 日本99在线视频| 嫩草视频在线观看| 激情网五月| 色色色在线免费视频| 99ER热精品视频| 第四色婷婷五月| 人人操超碰| 丁香婷婷月| 人妻九九九九| 色99在线观看| 五月天另类综合网| 色99综合色88| 天天干天天干天天操| 婷婷激情四射网| 婷婷久久大香蕉| 亚洲一色色色色色色色色| 99久久国产宗和精品1上映| wwwC0maV五月花| 色婷婷色五月综合| 色婷| 凹凸探花电影| 国产乱轮一区二区三区| 色五月婷婷亚洲最大| 日韩九区| 欧洲激情五月天| 五月婷婷伊| 高清无码网址| 26UUU一区二区| chaopengdaxiangjiao| 婷婷丁香激情综合色情| 婷婷六月综合| 99热这里是精品| 狠狠色噜噜狠狠| 97久人人| 久草热8精品视频在线观看| 亚洲五月情| 五月婷婷亚洲| av亚洲国产小电影| 成人开心五月天| 成人 在线 日韩| 超碰在线caop| 秋霞AV淫| 婷婷激情五月天色| 日本视频欧美观看免费| 色五月婷婷在线| 色女伊人| 四月婷婷五月色综合| 丁香五月婷婷图片综合| 综合色影| 亚洲射激情| 成人毛片在线免费观看| 能看的AV| 天天天天操| site:jszngf.com| 久久综合五月| 狠狠操狠狠| 丁香五月欧美| xx色综合| 婷婷激情人妻| 色色色色色色综合网| 97操在线视频| 99热99热不卡| 99热最新精品| 狠狠草网| 江苏少妇性BBB搡BBB爽爽爽| 午夜九九九九九九九九九九九九九| 色婷婷欧美在线| 91热视频色网站| 欧美婷婷色| 国产精品大香蕉| 婷婷丁香五月在线播放| 九久九精品| 久久玖玖综合| 99免费在线视频| AV性爱网| 五月丁香色婷婷基地| 精品婷婷| 色欧美日| 琪琪色五月婷婷老师| 五月天综合视频| 久久天天| 日本AAAAAAAAAAAAAA片| 人妻射精AV| 九九热大香蕉| 丁香婷婷婷婷十二月在线观看视频| 9色在线| 亚洲啪视频| 激情综合网五月激情| 五月综合777| 色婷婷五月天中文字幕| 国产激情在线| 99丝袜精品视频网站| 河北真实伦对白精彩脏话| 婷婷天天色| 极品另类| 五月天最新网| 丁香婷婷六月在线资源观看| 这里只有在线精品| 婷婷精品| 丁香婷婷六月天| 九九re视频在线视频| 婷婷视频在线碰| 日韩成人无码| 99只有精品| 人人干av| 婷婷伊人綜合中文字幕| 91视频综合网| 激情五月天小说网| 色五月婷婷激情| 激情九九这里只有精品| 97深爱伊人综合| 日韩狠狠色婷婷| 五月丁色AV| 九九热在线亚洲免费视频| 亚洲永久免费| 丁香桃色网| 久久婷婷国产| 激情四射婷婷| 玖玖在线视| 九九热大香蕉| 激情综合在线观看| 123草逼网| 五月天久久网站| 久久99精品久久久久久三级| 丁香五月天堂网| 成人va视频| 五月婷婷丁香五月 | 影音先锋91| 在线观看免费狠狠色丁香香综合| 激情综合五月婷婷丁香| 五月天色婷婷综合| 五月天婷婷综合| 五月天狠狠色| 超碰超碰在线| 日本久久网| 91Chinese在线| 伊人综合网站| 黄色三级毛片中字| 久月久在线视频| 色欲久久99精品久久久久久| WWW色色色COM| 亚洲视频无| 国产肏屄大片| 久久婷婷综| 久久五月视频| 丁香五月婷婷六月婷| 青青草婷婷综合五月| 99视频热| 精品人妻伦一二三区久| 日本婷久久| 99热精品在这里| 免费看欧美成人A片无码| chaopengdaxiangjiao| 久久99网| 五月天婷婷伊人| 99热久| 五月天婷婷在看| 婷婷五月天香蕉| 99色在线| 亚洲无码色色| 国产SUV精品一区二区883| 日本波多野结衣视频| 久人人操| 91一起操| 激情五月婷婷在线区| 亚洲色 视频| 五月天天综合| 婷婷在线播放| 九九综合九| 丁香六月婷婷开心婷婷网| 丁香大香蕉| 天天日天天摸天天| 丁香五月天AV| 婷婷亚洲天堂| 色网五月婷婷| 免费看成人747474九号视频在线观看| 色欲天天综合网| 婷婷激情区| 亚洲国产精品VA在线看黑人| www.婷婷.com| 婷婷五月激情基地| 狠狠99| 天天操天天操| 99爱视频| 色噜噜狠狠色综无码久久合欧美| 色综久久久| 99ri在线视频| 99色一| 黄网免费看| 欧美性生交xXxX久久久| 久久久27操| 黄色99网| 激情啪啪五月| 免费看欧美成人A片无码| 热99久| 丁香五月aV| 97操碰在线视频| 成人综合网站| 欧美日韩国产伦精品日韩人妻一| 成人超碰AV| 亚洲激情久久| 26uuu亚洲欧美| 日韩在线视频中文字幕| 久久人妻少妇嫩草AV| 五月天婷婷爱| 伊人色欲五月天| 国产67194| 婷婷不卡基地| 五月天五月色婷婷综合| 色情五月婷婷| 四虎国产精品永久在线国在线| 91大屁股精品| 五月丁香六月情婷婷久久| 99熟女视频| 色婷婷啪啪综合网| 99无码免费视频| 色在线99| 久草x色在线观看99| 五月婷婷在线丁香| 狠狠色五月天| 久久婷婷五月丁香蜜桃网| 综合玖玖性爱免费视频| 99热激情| 大香蕉久久视频久久视频| 久热伊人| 五月天成人免费视频| 激情综合视频| 蜘蛛女免费观看完整版高清电影| 色色日本欧美| www.韩日视频| 婷婷色香六月综合激情| 色墦五月丁香| 欧美乱码国产一级A片| 亚洲人人操BD| 开心五月婷婷| 亚洲欧美婷婷五月色综合| 五月天亚洲综合网| 狠狠干五月| 99视频精品视频| 激情久久久| 五月婷婷偷拍| 丁香婷婷月| 久久性都花花世界成人免费视频| oumeisesewang| 深爱激情六月天| AV成人在线播放| 亚洲色五月婷婷| tingtingseav| 亭亭社区五月天| 青草视频在线播放| 狠狠操之狠狠操| 色屌丝中文字幕| 四虎成人精品永久免费AV九九| 国产日韩欧美性爱| 99久免费视频| 99色色色色| 久久综合9| 99热99热99热99热| 五月婷婷香蕉| 青青草婷婷综合五月| 少妇大叫太大太粗太爽了A片| 天天插天天插天天日| 五月婷婷中文字幕| 色香蕉影院| 97久久视频| 色五月婷婷色| 色色综合网站| 狠狠色婷婷7777久| 欧美日韩成人在线| 久久人人看| 九九99精品视频在线观看| 色色吧综合| 欧美色色色| 婷色五月| 99热色精品| 六月丁香成人| 99色综合| www天天干| 超碰av在| 五月婷婷综合潮喷| 丁香五月伊人| 五月婷亚洲精品| av免费在线网站| 丁香久久综合| 综合色五月天| 思思久久精品| 99热精品少| 国产看真人毛片爱做A片| 啪啪激情网站| 淫视馆av三区| www激情| 人人操人人干AV| 91玖玖| 日韩成人电影在线播放| 丁香五月婷婷五月| 五月婷婷丁香啪啪| 精品人人操| 丁香六月啪| 亚洲色小说在线综合| 婷婷碰碰| 另类综合色| 人妻九九九九| 操99| 狠狠五月激情婷婷直播片| 五月天激情黄色网址| 婷婷丁香亚洲色综合91| 91久久久久久久久| 天天爽天天操| 婷婷激情六月天视频| 久啪欧美| 五月丁香婷婷色| 色必久悠悠影院| 久久久久久久久18久久| 婷婷五月激情丁香| 久操热线| 亚洲日本韩国| 婷婷免费视频| 日本色色色| AA片在线观看视频在线播放| 天天爱夜夜爽| 久久网日本| 国产毛片欧美毛片久久久| 婷婷综合色五月天| 九九热啪啪| 亚洲日韩乱码一区二区三区四区| 亚洲激情网站| 97狠狠色| 成人AV在线中文版| 无码色| 久热这里只有精品在线观看| 亚洲综合视频八| 日本久久婷| 婷婷五月天日日日干干干| 亚洲操B视频| 99精品在线播放| 五月丁香亚洲综合| 天天色综和网| 大香久久综合网| 99re思思热久久| 婷婷激情五月天视频在线| 色爱综合网| 99丁香五月| 超碰91在线| 天天舔天天摸天天透| 乱码操操| 91九色 熟| 丁香六月婷婷色XXXXX| 婷婷 月 丁香| 另类的婷婷|