Teileagram, WhatsApp+380637610482
Valery Danyuk
Valery DanyukforbróirAg forbairt uirlisí AI do ghnólachtaí. Ardchaighdeán. Inacmhainne.Scríobh chuig Telegram

Gineadóir robots.txt ar líne: conas comhad ceart a chruthú i 5 nóiméad gan earráidí

Gineadóir robots.txt ar líne: réamhshocruithe, rialacha ceadaithe agus dícheadaithe, léarscáil suímh, agus blocáil crawler AI

Cad a gheobhaidh tú

  • Comhad robots.txt réamhdhéanta ón tógálaí amhairc – le réamhshocruithe do WordPress, Laravel, agus Next.js
  • Tuiscint a fháil ar na rannóga atá le dúnadh agus cé na cinn nár cheart a dhúnadh choíche
  • Cinneadh maidir le cibé acu crawlóirí AI a bhac nó nach ea agus treoracha maidir le cá háit le an comhad a chur
Cuir i bhfeidhm: i gceann 5 nóiméadSábhálann: am chun comhréir a fhoghlaim agus an baol go ndúnfar an suíomh le clóscríobh amháin

Freagra gairid: chun comhad robots.txt a chruthú ar líne, oscail gineadóir robots.txt PromoPilot, roghnaigh réamhshocrú (Saincheaptha, Ceadaigh gach rud, Diúltaigh gach rud, WordPress, Laravel, nó Next.js), cuir isteach na cosáin le haghaidh Disallow agus Allow, cuir isteach seoladh an tsuímh ghréasáin don líne Léarscáil an tSuímh, agus más mian leat, seiceáil Moill ar chraoladh nó blocáil crawlers AI. Beidh an comhad críochnaithe le feiceáil ar dheis—is féidir leat é a chóipeáil nó a íoslódáil. Tá sé saor in aisce agus níl aon chlárú ag teastáil.

Scríobhaim robots.txt do gach suíomh Gréasáin nua agus tá a fhios agam cé chomh héasca is atá sé botúin a dhéanamh de láimh: spás breise, slais dearmadta, riail lasmuigh de bhloc. Cuireann an tógálaí robots.txt deireadh leis an bhfadhb seo—smaoiníonn tú ar cad atá le dúnadh, ní ar an comhréir. Thíos, míneoimid conas é a úsáid, cad atá le dúnadh, agus cá háit le an comhad críochnaithe a chur.

Cad a dhéanann an gineadóir robots.txt?

Is foirm seachas eagarthóir téacs é an gineadóir. Roghnaíonn tú na socruithe, agus cuireann an uirlis iad le chéile i gcomhad bailí agus taispeánann sé é i réamhamharc beo.

Ag socrú Cad a shocraíonn Cén fáth go bhfuil gá leis seo don suíomh?
Réamhshocrú Saincheaptha, Ceadaigh Gach Rud, Diúltaigh Gach Rud, WordPress, Laravel, Next.js Pointe tosaigh réidh le haghaidh d’inneall
URL an tsuímh ghréasáin Seoladh don líne Sitemap Faigheann róbónna an léarscáil suímh iad féin
Cosáin a Dhícheadú Rannóga nach bhfuil le scanadh, ceann amháin in aghaidh na líne Ní chuireann an róbat am amú ar an bpainéal riaracháin agus ar leathanaigh seirbhíse.
Ceadaigh Cosáin Eisceachtaí laistigh de rannóga dúnta Oscail an comhad atá uait i bhfillteán dúnta
Moill crawlála (10 soicind) Sos idir iarratais robot Ag faoiseamh an ualaigh ar fhreastalaí lag do róbónna a chuireann san áireamh é
Bac a chur ar chraoltóirí AI Toirmeasc ar GPTBot, Claude, agus róbónna AI eile Rialú cé a úsáideann d’ábhar
Réamhamharc, cóipeáil, íoslódáil An comhad robots.txt críochnaithe Is féidir leat é a uaslódáil chuig an bhfreastalaí láithreach.

Tá sé tábhachtach an teorannú a thuiscint: cruthaíonn an gineadóir comhad, ach ní dhéanann sé seiceáil ar cheann atá ann cheana féin. Má tá comhad robots.txt agat cheana féin agus más mian leat earráidí a aimsiú ann, ní mór duit an comhad robots.txt a anailísiú—tá an t-alt sa chéad chuid eile dírithe air seo.

Conas robots.txt a chruthú ar líne?

Gineadóir robots.txt ar líne i 4 chéim: roghnaigh réamhshocrú, cuir isteach cosáin, cuir léarscáil suímh leis, agus íoslódáil an comhad

  1. Oscail an gineadóir robots.txt.
  2. Roghnaigh réamhshocrú do d'inneall. Mura bhfuil d'inneall liostaithe, roghnaigh "Saincheaptha".
  3. Cuir isteach seoladh an tsuímh ghréasáin — https://example.com. Cruthóidh sé seo líne Sitemap.
  4. Cuir cosáin Disallow leis, ceann in aghaidh gach líne: /admin/, /tmp/, /search/.
  5. Más gá, cuir Ceadaigh eisceachtaí taobh istigh de fhillteáin srianta, amhail /uploads/images/, leis.
  6. Seiceáil na boscaí: Léarscáil an tSuímh, Moill ar Chraoladh, bac a chur ar chraoltóirí AI.
  7. Cóipeáil nó íoslódáil an comhad agus uaslódáil é chuig fréamh an tsuímh.

Ar thaobh na láimhe clé den leathanach tá na socruithe, agus ar dheis tá réamhamharc beo den chomhad leis na cnaipí "Cóipeáil" agus "Íoslódáil robots.txt".

Leathanach gineadóra robots.txt saor in aisce PromoPilot: réamhshocruithe, cosáin a dhícheadú agus a cheadú, bratacha léarscáile suímh, moill crawlála, agus crawlóirí AI a bhac

Ní mór an comhad a bheith suite go docht ag fréamh an fhearainn: https://example.com/robots.txt. Ní bhfaighidh róbónna é sa bhfillteán /blog/robots.txt ná ar fho-fhearann eile—tá a chomhad robots.txt féin ag gach fo-fhearann.

Braitheann sé ar an ardán cá háit go díreach ar cheart an comhad íoslódáilte a uaslódáil:

  • Óstáil rialta - trí bhainisteoir comhad an phainéil nó FTP chuig an bhfillteán ina bhfuil an príomhleathanach suite (go minic public_html nó www).
  • WordPress — mura bhfuil comhad fisiceach ann, freastalaíonn an t-inneall comhad robots.txt fíorúil. Cuirtear an comhad ina áit nuair a uaslódálfar é chuig an bhfréamh; is é an dara rogha ná an t-eagarthóir comhad sa bhreiseán Sinsearach a úsáid.
  • Next.js agus creatlacha eile —cuirtear an comhad san fhillteán public nó gintear é ón gcód tionscadail ionas nach gcaillfear é le linn an chéad imscaradh eile.
  • Tógálaithe suíomhanna gréasáin - is gnách go ndéantar an comhad a chur in eagar sna socruithe Sinsearach seachas é a uaslódáil de láimh.

Ní mór an comhad a bheith ainmnithe robots.txt i gcás beag agus é a shábháil in ionchódú UTF-8 mar théacs simplí. Tar éis é a íoslódáil, oscail i do bhrabhsálaí é: má fheiceann tú do théacs, tá gach rud ina áit.

Cad ba chóir agus nár chóir a dhúnadh i robots.txt?

An príomhphrionsabal: dún aon rud nach gcuireann luach leis an gcuardach agus a chuireann am an róbait amú. Ná dún aon rud atá riachtanach don róbat chun an leathanach a thuiscint.

De ghnáth dúnta:

  • painéal riaracháin agus cuntas pearsanta: /admin/, /wp-admin/, /account/;
  • cart agus seiceáil amach: /cart/, /checkout/;
  • cuardach inmheánach: /search/, /?s=;
  • fillteáin seirbhíse agus sealadacha: /tmp/, /cgi-bin/;
  • Teaglamaí gan teorainn de scagairí agus roghanna sórtála - néata, ach amháin má tá leathanaigh tuirlingthe ar leith ann do na scagairí riachtanacha.

Ná dún riamh:

  • CSS, JavaScript, agus íomhánna—gan iad, ní fheicfidh Google an leathanach ar an mbealach a fheicfeadh duine;
  • catalóg, blag, cártaí táirgí agus leathanaigh tuirlingthe;
  • leathanaigh is mian leat a bhaint den innéacs - chuige seo teastaíonn noindex uait, agus ní mór don róbat a bheith in ann é a léamh.

Seo an comhad a gheobhaidh tú do shiopa tipiciúil WordPress le WooCommerce:

User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Disallow: /cart/
Disallow: /checkout/
Disallow: /my-account/
Disallow: /?s=

Sitemap: https://example.com/sitemap.xml

Maidir le bratacha. Ní chuireann Google moill crawlála san áireamh—ná cumasaigh é ach amháin má tá do fhreastalaí ag fulaingt ó bhotaí eile. Is cinneadh gnó é crawlóirí AI a bhac: más mian leat go mbeadh a fhios ag ChatGPT, Gemini, agus Perplexity fút agus go molfaidís tú, ná bac a rochtain.

Pointe praiticiúil eile is ea leagan tástála an tsuímh. Maidir leis an gcóip stáitse, bain úsáid as an réamhshocrú "Diúltaigh Gach Rud", ach bí cinnte an comhad a athsholáthar nuair a sheoltar é: is é Disallow: / dearmadta an rud is minice a laghdaíonn trácht chuig suíomhanna nua.

Comparáid: Gineadóir PromoPilot agus Bealaí Eile chun Robots.txt a Chruthú

Bealach Cad atá saor in aisce? Srianta Cé dó a bhfuil sé oiriúnach?
PromoPilot — Gineadóir Robots.txt Réamhshocruithe, Dícheadaigh agus Ceadaigh, Léarscáil an tSuímh, Moill ar Chraoladh, Blocáil Bot AI, Íoslódáil Ní mór duit an comhad a uaslódáil chuig an bhfreastalaí tú féin. Do thosaitheoirí agus d'aon duine nach bhfuil ag iarraidh comhréir a mheabhrú
Eagarthóir i mbreiseán Sinsearach WordPress (e.g. Yoast SEO) Comhad a chur in eagar go díreach ón bpainéal riaracháin I gcás WordPress amháin, scríobhann tú an comhréir tú féin Do úinéirí suíomhanna gréasáin WordPress
Comhad robots i Next.js Gintear robots.txt ón gcód tionscadail Forbróir ag teastáil Tionscadail Next.js
Eagarthóir téacs Saoirse iomlán Éasca botúin a dhéanamh, gan aon leideanna Dóibh siúd a bhfuil an caighdeán ar eolas acu de ghlanmheabhair

Conclúid: Is é an gineadóir an bealach is tapúla chun comhad bailí a fháil gan an comhréir a bheith ar eolas agat. Tá an breiseán agus cód an tionscadail áisiúil nuair is gá an comhad a athrú mar aon leis an suíomh Gréasáin.

Tá an gineadóir ar cheann de 87 uirlis Sinsearach saor in aisce PromoPilot. Tar éis an comhad a íoslódáil, seiceáil é le hanailíseoir robots.txt, agus i gcás líne léarscáil an tsuímh, bain úsáid as an gineadóir sitemap.xml—tá an dá cheann clúdaithe sna hairteagail in aice láimhe sa chuid seo.

Teorainneacha an Ghineadóra: Cad nach ndéanfaidh sé duit

Níl a fhios ag an gineadóir struchtúr do shuímh. Dúnfaidh réamhshocrú WordPress na cosáin seirbhíse tipiciúla, ach ní thuigfidh sé go bhfuil scagairí do shiopa i /filter/ agus an cuardach inmheánach i /find/. Beidh ort na cosáin seo a iontráil tú féin.

Ní uaslódálann sé an comhad chuig an bhfreastalaí ná ní dhéanann sé seiceáil an bhfuil an comhad inrochtana ag /robots.txt le cód stádais 200. Tar éis uaslódála, oscail an seoladh i mbrabhsálaí nó rith trí pharsálaí é.

Agus ní chuireann sé ionad noindex: mura bhfuil sé mar aidhm leathanaigh a bhaint as torthaí cuardaigh, níl robots.txt oiriúnach. Ar deireadh, ní chosnaíonn an comhad do shonraí: tá sé poiblí, agus is féidir le duine ar bith a léamh cé na codanna atá glasáilte agat. Tá rúin i bhfolach taobh thiar de phasfhocal.

Cathain nach leor uirlis saor in aisce?

Gineadóir robots.txt ar líne agus socrú innéacsaithe saineolaithe: cad a dhéanann gach rogha

Tógann sé cúig nóiméad comhad a ghiniúint. Is obair mhór í cinneadh a dhéanamh faoi cad atá le glasáil ar shuíomh le na mílte leathanach. Teastaíonn speisialtóir uait má:

  • Tá na céadta teaglaim scagaire sa siopa, agus gineann cuid acu trácht;
  • tá an suíomh ilteangach, ar fho-fhearainn nó le fillteáin ar leith do theangacha;
  • Tar éis robots.txt a chur in eagar, thit an trácht, agus níl sé soiléir cén riail atá freagrach;
  • Ní mór duit robots.txt, na meiteasclibeanna, an comhad canónach, agus an léarscáil suímh a ailíniú i gcóras amháin.

Cad is féidir liom a dhéanamh do do shuíomh gréasáin?

Is mise Valeriy Danyuk, is forbróir agus speisialtóir Sinsearach mé le 12 bliana de thaithí agus breis is 200 cliant. Tá comhad robots.txt ceart mar chuid de gach suíomh Gréasáin a thógaim.

Sinsearach agus cur chun cinn

Suíomhanna gréasáin agus siopaí ar líne

CRM, cuntasaíocht agus uathoibriú

Tuilleadh eolais sa phunann. Nach bhfuil tú cinnte cad atá le clúdach? Seol seoladh do shuíomh Gréasáin chugam i Telegram – molfaidh mé rialacha a oireann do do struchtúr.

Toradh

  1. Cruthaíonn an gineadóir robots.txt ar líne comhad ceart i gceann cúig nóiméad: réamhshocrú, cosáin, léarscáil suímh, bratacha.
  2. Dún an painéal riaracháin, an bosca athchúrsála, na fillteáin chuardaigh agus seirbhíse; ná dún CSS, JS, an chatalóg ná an blag.
  3. Ní bhaineann robots.txt leathanaigh as an innéacs - is é sin an fáth a bhfuil noindex ann.
  4. Is cúis le struchtúr casta, scagairí agus teangacha an socrú a chur ar iontaoibh speisialtóir nó suíomh a thógáil ar 1001site, áit a ndéantar innéacsú a chumrú as an mbosca.

Cruthaigh do chomhad robots.txt féin anois ag baint úsáide as an gineadóir robots.txt saor in aisce, agus má tá aon cheist agat faoi na rialacha, scríobh chugam ar Telegram.

Foinsí

  • Leathanach uirlis Gineadóra robots.txt PromoPilot — socruithe, réamhshocruithe, agus ceisteanna leathanaigh.
  • Google Search Central - Conas Comhad Robots.txt a Chruthú agus a Chur Isteach.
  • Doiciméadú Next.js - comhad meiteashonraí robots.

Tagairtí agus foinsí

Ceisteanna agus Freagraí

Cad é robots.txt?

Comhad téacs i bhfréamh láithreáin ghréasáin ina bhfuil rialacha d’innill chuardaigh agus do róbónna eile: cé na codanna is féidir a chraoladh, cé na codanna nach féidir, agus cá bhfuil an léarscáil suímh suite. Léann róbónna é sula gcraolann siad an suíomh.

An gcuireann robots.txt bac ar innéacsú?

Ní hea, ní chuireann sé bac ach ar chraoladh. Féadfar leathanach blocáilte a innéacsú gan cur síos má tá nasc leis. Chun leathanach a bhaint den chuardach, fág rochtain ag na róbait air agus cuir meitea-chlib noindex leis.

An gá dom Léarscáil Suímh a shonrú i robots.txt?

Níl sé seo riachtanach, ach tá sé úsáideach: cabhraíonn líne léarscáile suímh leis an seoladh iomlán léarscáile suímh le haon chraoltóir é a aimsiú gan Search Console a úsáid. Cuireann an gineadóir leis go huathoibríoch é má chuireann tú seoladh an tsuímh isteach.

Ar cheart bac a chur ar chraoltóirí AI?

Braitheann sé ar an sprioc. Cuireann bac ar GPTBot, Claude, agus róbait chomhchosúla cosc orthu d’ábhar a úsáid, ach laghdaíonn sé freisin an seans go n-aithneoidh agus go molfaidh cúntóirí AI do shuíomh Gréasáin. I gcás gnólachtaí ar mian leo cliaint ó ChatGPT agus Perplexity, is gnách go mbíonn bac díobhálach.

Rinneamar seiceáil ar an suíomh gréasáin, ach níl aon duine ann chun é a dheisiú?

Nochtann an uirlis saor in aisce seo fadhbanna. Déanfaidh mé anailís ar an tuarascáil, tabharfaidh mé tosaíocht dóibh, agus socróidh mé iad: iniúchadh Sinsearach, luasghéarú, marcáil, agus aistriú chuig suíomh nua gan rátálacha a chailleadh.