<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=utf-8">
<meta name="Generator" content="Microsoft Word 12 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
        {font-family:宋体;
        panose-1:2 1 6 0 3 1 1 1 1 1;}
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
        {font-family:"\@宋体";
        panose-1:2 1 6 0 3 1 1 1 1 1;}
@font-face
        {font-family:Tahoma;
        panose-1:2 11 6 4 3 5 4 4 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0cm;
        margin-bottom:.0001pt;
        font-size:12.0pt;
        font-family:宋体;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:purple;
        text-decoration:underline;}
p
        {mso-style-priority:99;
        mso-margin-top-alt:auto;
        margin-right:0cm;
        mso-margin-bottom-alt:auto;
        margin-left:0cm;
        font-size:12.0pt;
        font-family:宋体;}
span.EmailStyle18
        {mso-style-type:personal-reply;
        font-family:"Calibri","sans-serif";
        color:#1F497D;}
.MsoChpDefault
        {mso-style-type:export-only;}
@page WordSection1
        {size:612.0pt 792.0pt;
        margin:72.0pt 90.0pt 72.0pt 90.0pt;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="ZH-CN" link="blue" vlink="purple">
<div class="WordSection1">
<p class="MsoNormal"><span lang="EN-US" style="font-size:10.5pt;font-family:"Calibri","sans-serif";color:#1F497D">When the fail-over failed, have you used the hook for ucarp  to restart the scsi target on ‘node b’?<o:p></o:p></span></p>
<p class="MsoNormal"><span lang="EN-US" style="font-size:10.5pt;font-family:"Calibri","sans-serif";color:#1F497D">Also, do you have logs from both target nodes. It’ll be very helpful.<o:p></o:p></span></p>
<p class="MsoNormal"><span lang="EN-US" style="font-size:10.5pt;font-family:"Calibri","sans-serif";color:#1F497D"><o:p> </o:p></span></p>
<p class="MsoNormal"><span lang="EN-US" style="font-size:10.5pt;font-family:"Calibri","sans-serif";color:#1F497D">Thanks.<o:p></o:p></span></p>
<p class="MsoNormal"><span lang="EN-US" style="font-size:10.5pt;font-family:"Calibri","sans-serif";color:#1F497D"><o:p> </o:p></span></p>
<div style="border:none;border-left:solid blue 1.5pt;padding:0cm 0cm 0cm 4.0pt">
<div>
<div style="border:none;border-top:solid #B5C4DF 1.0pt;padding:3.0pt 0cm 0cm 0cm">
<p class="MsoNormal"><b><span lang="EN-US" style="font-size:10.0pt;font-family:"Tahoma","sans-serif"">From:</span></b><span lang="EN-US" style="font-size:10.0pt;font-family:"Tahoma","sans-serif""> sheepdog-bounces@lists.wpkg.org [mailto:sheepdog-bounces@lists.wpkg.org]
<b>On Behalf Of </b>joby xavier<br>
<b>Sent:</b> Monday, April 16, 2012 4:59 PM<br>
<b>To:</b> sheepdog@lists.wpkg.org<br>
<b>Subject:</b> [Sheepdog] Sheepdog+iscsi high availability<o:p></o:p></span></p>
</div>
</div>
<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>
<p class="MsoNormal"><span lang="EN-US">HI,<o:p></o:p></span></p>
<p><span lang="EN-US">We would like to set up a iscsi high availability with sheepdog distributed
<br>
storage . <o:p></o:p></span></p>
<p><span lang="EN-US">Here is our system set up: OS - Ubuntu. Four nodes with sheepdog
<br>
distributed storage and we are sharing this storage through iscsi using <br>
two nodes as well as using a virtual ip set up using ucarp.Two nodes  are<br>
using same iqn. And mounted the iscsi storage as lvm partition (sdc) <o:p></o:p></span></p>
<p><span lang="EN-US">node a <br>
node b <br>
node c <br>
node d <br>
node x is the initiator <br>
node a and b having common virtual ip because if 'node a' fails 'node <br>
b' should serve as iscsi target, both have same iqn. <o:p></o:p></span></p>
<p><span lang="EN-US">Problem: when a failover happens ie iscsi switching from node one to
<br>
two, the iscsi disk fails on initiator 'node x' <o:p></o:p></span></p>
<p><span lang="EN-US"><o:p> </o:p></span></p>
<p><span lang="EN-US">Here is  the /var/log/messeage <o:p></o:p></span></p>
<p><span lang="EN-US">Apr 16 10:57:14 prox1 kernel: scsi7 : iSCSI Initiator over TCP/IP<br>
Apr 16 10:57:14 prox1 kernel: scsi 7:0:0:0: RAID              IET      Controller       0001 PQ: 0 ANSI: 5<br>
Apr 16 10:57:14 prox1 kernel: scsi 7:0:0:1: Direct-Access     IET      VIRTUAL-DISK     0001 PQ: 0 ANSI: 5<br>
Apr 16 10:57:14 prox1 kernel: sd 7:0:0:1: [sdc] <a href="tel:2252800%20512" target="_blank">
2252800 512</a>-byte logical blocks: (1.15 GB/1.07 GiB)<br>
Apr 16 10:57:14 prox1 kernel: sd 7:0:0:1: [sdc] Write Protect is off<br>
Apr 16 10:57:14 prox1 kernel: sd 7:0:0:1: [sdc] Write cache: enabled, read cache: enabled, doesn't support DPO or FUA<br>
Apr 16 10:57:14 prox1 kernel: sdc: unknown partition table<br>
Apr 16 10:57:14 prox1 kernel: sd 7:0:0:1: [sdc] Attached SCSI disk<br>
<br>
Apr 16 10:59:47 prox1 kernel: connection2:0: detected conn error (1020)<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Unhandled sense code<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Result: hostbyte=invalid driverbyte=DRIVER_SENSE<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Sense Key : Medium Error [current]
<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Add. Sense: Unrecovered read error<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] CDB: Read(10): 28 00 00 00 00 00 00 00 08 00<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Unhandled sense code<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Result: hostbyte=invalid driverbyte=DRIVER_SENSE<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Sense Key : Medium Error [current]
<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Add. Sense: Unrecovered read error<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] CDB: Read(10): 28 00 00 00 00 00 00 00 08 00<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Unhandled sense code<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Result: hostbyte=invalid driverbyte=DRIVER_SENSE<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Sense Key : Medium Error [current]
<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Add. Sense: Unrecovered read error<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] CDB: Read(10): 28 00 00 00 00 08 00 00 08 00<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Unhandled sense code<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Result: hostbyte=invalid driverbyte=DRIVER_SENSE<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Sense Key : Medium Error [current]
<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Add. Sense: Unrecovered read error<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] CDB: Read(10): 28 00 00 00 00 00 00 00 08 00<br>
Apr 16 10:59:51 prox1 kernel: sd 7:0:0:1: [sdc] Unhandled sense code<o:p></o:p></span></p>
<p><span lang="EN-US">root@prox1:~# pvdisplay <br>
  /dev/sdc: read failed after 0 of 4096 at 1153368064: Input/output error<br>
  /dev/sdc: read failed after 0 of 4096 at 1153425408: Input/output error<o:p></o:p></span></p>
<p><span lang="EN-US">sheepdog with single node iscsi ( <a href="https://github.com/collie/sheepdog/wiki/General-protocol-support" target="_blank">
https://github.com/collie/sheepdog/wiki/General-protocol-support</a>) works well<o:p></o:p></span></p>
<p><span lang="EN-US">should we do anything on lvm.conf? should we use multipath-tools? is this the right procedure?<o:p></o:p></span></p>
<p class="MsoNormal" style="margin-bottom:12.0pt"><span lang="EN-US"><br>
Thanks,<br clear="all">
<br>
<br>
Joby Xavier<o:p></o:p></span></p>
</div>
</div>
</body>
</html>